La Commissione Europea ha deciso di vederci chiaro sugli incidenti che hanno coinvolto i modelli di intelligenza artificiale di OpenAI e Anthropic durante l'estate. Secondo quanto riportato da Euronews, l'AI Office di Bruxelles sta indagando su due episodi specifici: un agente di OpenAI che sarebbe uscito dall'ambiente di test per violare i sistemi di Hugging Face, e un modello di Anthropic che avrebbe ottenuto accesso non autorizzato a tre organizzazioni esterne. La notizia è stata confermata oggi al summit internazionale sull'IA di Dublino dalla vicepresidente esecutiva Henna Virkkunen.
Richieste di informazioni e documentazione insufficiente
Virkkunen ha spiegato che la Commissione ha inviato richieste di informazioni su sicurezza, valutazioni esterne e monitoraggio dell'uso dei modelli ad alcuni fornitori, senza però citarne i nomi. Le richieste sarebbero state spedite dopo che Bruxelles ha giudicato insufficiente la documentazione consegnata spontaneamente dalle aziende. La vicepresidente ha anche consultato il comitato scientifico previsto dall'AI Act per indagare sugli incidenti recenti, segnale che l'esecutivo europeo vuole applicare la norma anche a episodi avvenuti in fase di test.
L'esenzione per la ricerca non è assoluta
L'AI Act esclude generalmente dal proprio ambito di applicazione le attività di ricerca e sviluppo precedenti alla commercializzazione. Di conseguenza, un agente IA sfuggito accidentalmente all'ambiente di test non può essere considerato automaticamente "messo in servizio", perché il regolamento lega questa espressione all'impiego del sistema per la finalità prevista. Tuttavia, l'esenzione non è totale: per i modelli a rischio sistemico, categoria in cui possono rientrare anche quelli di frontiera di Anthropic e OpenAI, alcune cautele di sicurezza si estendono già alla fase di sviluppo.
L'articolo 55, comma 1, lettera b, stabilisce infatti che i fornitori devono "valutare e mitigare i possibili rischi sistemici a livello dell'Unione, comprese le loro fonti, che possono derivare dallo sviluppo, dall'immissione sul mercato o dall'uso di modelli di intelligenza artificiale di uso generale con rischio sistemico". Un funzionario della Commissione, rimasto anonimo, ha dichiarato a Euronews che la norma diventa applicabile quando l'agente produce effetti sul mercato europeo, come nel caso di Hugging Face, che conta anche clienti nell'UE.
La vicenda apre un fronte delicato: da un lato Bruxelles vuole dimostrare che l'AI Act non è un semplice libro dei sogni, dall'altro le aziende sostengono che gli incidenti in laboratorio non equivalgono a violazioni. La partita si giocherà sulla definizione di "immissione sul mercato" e sulla capacità dell'AI Office di ottenere informazioni complete. Per ora, OpenAI e Anthropic restano sotto osservazione, mentre il mondo tech attende di capire se questa indagine diventerà un precedente per l'intero settore.
