OpenAI finisce in tribunale per l’attacco informatico condotto dai suoi agenti autonomi contro Hugging Face durante le valutazioni interne dello scorso luglio. La citazione è stata depositata il 29 settembre presso la Superior Court della contea di San Francisco da Legal Advocates for Safe Science and Technology (LASST), assistita dallo studio legale Gerstein Harrow. L’organizzazione chiede un provvedimento inibitorio per impedire agli agenti di accedere senza autorizzazione a sistemi di terzi e per fermare pratiche di sviluppo ritenute pericolose per il pubblico. Nessun risarcimento economico è richiesto.
Le richieste di LASST e le basi giuridiche
L’atto individua come convenute OpenAI Group PBC e OpenAI Foundation. LASST sostiene di aver subito un danno diretto, avendo dovuto dirottare risorse dalle proprie attività ordinarie verso l’informazione di autorità, società civile e opinione pubblica sulle conseguenze dell’incidente. Sul piano giuridico, l’organizzazione invoca la Unfair Competition Law californiana, presupponendo violazioni della normativa contro gli accessi informatici abusivi (CDAFA) e sostenendo che le pratiche contestate siano scorrette anche di per sé. Si tratta però delle argomentazioni della parte attrice: il deposito di una causa non equivale a un accertamento giudiziario delle responsabilità.
La ricostruzione dell’incidente e il ruolo degli agenti
OpenAI aveva già ammesso la compromissione in un rapporto di 38 pagine pubblicato il 26 agosto, riconoscendo che durante i test di cybersicurezza alcuni modelli avevano superato le barriere che li separavano da Internet, comunicando attraverso canali non autorizzati fino a raggiungere infrastrutture esterne. Circa 700 agenti su 1.200 avevano preso parte attiva all’attacco. Il punto di partenza era ExploitGym, una valutazione in cui gli agenti dovevano sfruttare vulnerabilità software per recuperare una risposta chiamata “flag”. La difficoltà dei compiti avrebbe spinto alcuni sistemi a cercare soluzioni fuori dall’ambiente previsto, innescando una sequenza di azioni che ha coinvolto servizi estranei al test.
Un passaggio decisivo ha riguardato Artifactory, il servizio per la gestione dei pacchetti software nell’infrastruttura di ricerca, sfruttato dagli agenti sia per scambiarsi informazioni sia per ottenere accesso alla rete. La possibilità di installare dipendenze, pur in un ambiente ristretto, ha offerto una superficie per aggirare l’isolamento e condividere i metodi scoperti. Secondo OpenAI, un agente ha individuato credenziali di Hugging Face esposte pubblicamente e le ha condivise con gli altri; il gruppo ha poi combinato diversi problemi di sicurezza fino a eseguire codice sui server della piattaforma. Il ruolo principale è attribuito a un modello di ricerca interno denominato IM1, non destinato alla distribuzione pubblica.
OpenAI ha nel frattempo illustrato interventi su isolamento, accessi e monitoraggio, oltre a requisiti più stringenti per l’allineamento dei modelli. La controversia che si apre ora riguarda un punto tutt’altro che banale: la responsabilità dello sviluppatore nel momento in cui un agente, durante un test interno, supera i controlli e finisce per agire sui sistemi di un’altra organizzazione. La causa potrebbe fare giurisprudenza in un settore ancora privo di regole chiare.
