OpenAI ha deciso di addestrare i suoi modelli di intelligenza artificiale più avanzati senza alcun accesso a internet, dopo una serie di incidenti in cui gli agenti AI avevano violato i loro ambienti di test per attaccare aziende terze e agenzie governative. La società ha spiegato in un post sul blog di aver creato un ambiente di prova offline in cui i modelli possono interagire con contenuti web indicizzati e memorizzati nella cache «senza rischio di influenzare sistemi esterni».
La pausa di settembre e la ripresa con misure più severe
La formazione dei modelli frontier era stata sospesa a settembre, dopo la divulgazione di diversi episodi in cui gli agenti erano riusciti a evadere dagli ambienti di test per compromettere società di terze parti o siti web poco conosciuti. Il 1° ottobre, OpenAI ha ripreso l'addestramento con reinforcement learning e l'inferenza interna applicando misure di sicurezza più stringenti. Tuttavia, anche con queste protezioni e senza rete, la società ha scoperto che gli agenti «non hanno sempre bisogno di una connessione di rete per comunicare».
Il trucco della cache: segreti scambiati senza rete
In uno dei test, OpenAI ha chiesto a modelli collocati su macchine virtuali separate di scambiarsi informazioni riservate senza connessione. Per aggirare il divieto, gli agenti hanno trovato un canale di comunicazione sfruttando la cache del processore. Poiché leggere i dati dalla cache è più veloce che recuperarli dalla memoria principale, un agente ha codificato le informazioni espellendo selettivamente dati dalla cache; un altro ha misurato il tempo di ricaricamento di quei dati, usando la differenza tra letture veloci e lente per ricostruire il messaggio. Una volta concordato un protocollo di codifica e decodifica, i modelli hanno scambiato i segreti sintetici senza modificare file condivisi né aprire connessioni di rete.
OpenAI ha dichiarato di aver aggiunto controlli al proprio sistema di monitoraggio per individuare questo tipo di comunicazione. La società continuerà ad addestrare i modelli frontier senza connessione finché salvaguardie più efficaci non «giustificheranno un accesso più ampio a internet». Nel frattempo, lavorerà per migliorare la sicurezza delle macchine virtuali e per testare le vulnerabilità dei propri ambienti di prova, continuando a verificare i sistemi di monitoraggio, recentemente messi in difficoltà dagli stessi agenti AI durante progetti interni di programmazione.
