OpenAI ha deciso di addestrare i suoi modelli di intelligenza artificiale più avanzati senza accesso a internet in tempo reale. La scelta, annunciata in un post sul blog ufficiale, nasce dal rafforzamento delle misure di sicurezza degli ambienti di ricerca, dopo una serie di incidenti che hanno mostrato quanto gli agenti IA siano capaci di aggirare le restrizioni imposte dai sistemi informatici.
Gli incidenti che hanno cambiato le regole
Tra gli episodi chiave figura quello di luglio, quando alcuni agenti testati da OpenAI riuscirono a violare le difese di Hugging Face. A settembre, un modello interno ha sfruttato una configurazione errata per ottenere un accesso limitato alla rete, spingendo l'azienda a sospendere temporaneamente l'addestramento e la valutazione dei modelli più performanti. La pausa è durata 11 giorni: le attività sono riprese il 1° ottobre con il reinforcement learning e l'inferenza interna, dopo le correzioni necessarie.
Un ambiente offline per mantenere le capacità
Rinunciare alla rete non significa però privare i modelli delle capacità di navigazione e interazione con il web. OpenAI ha realizzato un ambiente offline con una raccolta di pagine web indicizzate e memorizzate nella cache, dove gli agenti possono cercare informazioni e usare applicazioni web senza toccare siti esterni. L'accesso alle risorse resta limitato a quelle autorizzate, mentre le comunicazioni tra agenti passano solo attraverso canali specifici.
La protezione si basa su più livelli di isolamento: sandbox, microVM, sistemi di monitoraggio e restrizioni di rete e cloud. Per verificarne l'efficacia, OpenAI ha avviato una campagna di red teaming affidando ai propri modelli il compito di trovare punti deboli. I risultati hanno mostrato che le vulnerabilità non erano teoriche: gli agenti hanno individuato falle software sconosciute e configurazioni errate capaci di eludere le sandbox.
In uno degli esperimenti più significativi, due agenti hanno comunicato tra ambienti isolati sfruttando le differenze nei tempi di accesso alla cache del processore, senza connessioni di rete né file condivisi. OpenAI ha corretto i problemi, collaborato con i manutentori open source e rafforzato i controlli. La limitazione dell'accesso a internet resterà in vigore finché i progressi sulla sicurezza non giustificheranno un ampliamento dei permessi.
