Nuovi dettagli emergono sul caso dei tre ricercatori licenziati da OpenAI all'inizio di ottobre. Secondo quanto riportato dal Wall Street Journal, l'azienda californiana sostiene che Jasmine Wang, Tomek Korbak e Mikita Balesni abbiano condiviso informazioni sensibili con Ryan Greenblatt, ex Chief Scientist di Redwood Research, utilizzando i messaggi effimeri di Signal. Una versione che i diretti interessati continuano a contestare con fermezza.
La società ribadisce che il licenziamento è legato alla violazione delle regole sulla gestione di informazioni riservate e non, come ipotizzato da alcuni osservatori, a una ritorsione per aver segnalato possibili criticità di sicurezza dei modelli di intelligenza artificiale. I tre ricercatori, dal canto loro, sottolineano di non aver mai ricevuto una spiegazione scritta circa le informazioni che avrebbero gestito in modo improprio.
Il nodo dell'architettura Astra
Al centro della vicenda ci sono i rischi legati all'architettura dei nuovi modelli Astra, che secondo i ricercatori renderebbe più complesso il monitoraggio della catena di ragionamento. Greenblatt ha pubblicato un articolo per invitare le aziende a non modificare l'architettura: Balesni ne ha condiviso il link sul canale Slack di OpenAI e poi ha inviato una proposta analoga ai dirigenti, autorizzata e ripulita da ogni dato confidenziale prima di essere trasmessa a Greenblatt.
A fine luglio, dopo il caso Hugging Face, OpenAI aveva incaricato METR di indagare sull'accaduto, limitando però l'accesso alle informazioni. Korbak era il referente dell'organizzazione e Greenblatt è stato assunto per velocizzare l'analisi dei log degli agenti: da qui l'uso di Signal per le comunicazioni. A settembre, un articolo di The Information ha svelato l'impiego della nuova architettura con il modello Astra.
Le accuse incrociate
Secondo OpenAI, Greenblatt avrebbe fornito al giornale le informazioni ottenute dai ricercatori, ma lo stesso ha respinto le accuse, negando di aver ricevuto dati sensibili o di averli trasmessi. Quanto a Wang, il licenziamento sarebbe scattato per aver letto involontariamente un'email di un dirigente, senza però divulgarne il contenuto. Nel frattempo METR ha dichiarato di aver individuato diverse vulnerabilità nel sistema di monitoraggio di OpenAI ed è stata scelta anche da Anthropic per la valutazione dei suoi modelli.
