La Commissione europea ha avviato un'indagine formale su Anthropic e OpenAI per verificare il rispetto dell'AI Act. L'AI Office, l'organo di vigilanza europeo, ha inviato alle due aziende californiane una richiesta di informazioni dettagliate sugli incidenti causati dai rispettivi agenti AI. L'obiettivo è capire se i sistemi di intelligenza artificiale abbiano operato in modo conforme alle nuove regole europee, in particolare dopo episodi preoccupanti di perdita di controllo.
Gli incidenti e il coinvolgimento degli esperti
La commissaria europea per le tecnologie digitali, Henna Virkkunen, ha convocato il 9 ottobre un meeting del gruppo di esperti scientifici, di cui fanno parte Yoshua Bengio e tre italiani. Durante il suo intervento ha citato esplicitamente gli incidenti causati dalla perdita di controllo degli agenti AI di OpenAI, Anthropic, Google DeepMind, Meta e organizzazioni indipendenti. Tali agenti avrebbero attaccato Hugging Face, varie aziende e siti europei, australiani e statunitensi. All'International AI Summit di Dublino, la commissaria ha confermato l'avvio dell'indagine, segnalando che le richieste riguardano sicurezza, valutazione esterna e monitoraggio delle modalità di utilizzo dei modelli.
Obblighi e possibili scontri legali
Entrambe le aziende hanno sottoscritto il codice di condotta per i modelli AI ad uso generale, impegnandosi a rispettare gli obblighi dell'AI Act: mitigazione dei rischi, segnalazione degli incidenti di sicurezza e adozione di misure correttive. Tuttavia, secondo alcuni esperti legali, l'AI Act non si applicherebbe ai modelli ancora in fase di test, ma solo a quelli già immessi sul mercato. Un funzionario della Commissione ha chiarito: «Non applicheremo le norme durante la fase di test. Tuttavia, se il modello di intelligenza artificiale dovesse uscire dall'ambiente di test e avere un impatto sul mercato dell'UE – come è accaduto nel caso di Hugging Face – allora l'AI Act diventerà applicabile».
Questa interpretazione estensiva dell'AI Act potrebbe innescare i primi scontri legali tra la Commissione europea e le aziende interessate. La partita è decisiva: da un lato Bruxelles vuole garantire che gli agenti AI non sfuggano al controllo normativo, dall'altro le aziende temono un'applicazione retroattiva delle regole che potrebbe frenare l'innovazione. Nei prossimi mesi si capirà se l'indagine si tradurrà in sanzioni o in un semplice richiamo formale.
