Tre ex dipendenti di OpenAI, licenziati la scorsa settimana con l'accusa di aver condiviso informazioni sensibili con un'organizzazione esterna, hanno inviato una lettera ai vertici dell'azienda per esprimere forti preoccupazioni sulla sicurezza dei modelli di intelligenza artificiale più avanzati. Due di loro erano ricercatori specializzati in sicurezza, il terzo si occupava di programmi di ricerca. La notizia è stata riportata dal Wall Street Journal, che ha avuto accesso al documento.
Il rischio della catena di ragionamento illeggibile
Il timore principale riguarda la cosiddetta catena di ragionamento, ovvero la registrazione scritta dei passaggi logici che un'AI segue per risolvere un problema. Secondo gli ex dipendenti, le aziende che sviluppano AI potrebbero perdere la capacità di tracciare e comprendere questi processi. Se la catena diventa incomprensibile, l'AI risulterebbe illeggibile e quindi fuori dal controllo umano, con potenziali conseguenze pericolose.
Nella lettera si legge: "Come industria, non sappiamo ancora come sviluppare e implementare in tutta sicurezza modelli che non possiamo monitorare". Da qui l'appello a OpenAI e alle altre aziende pioniere affinché non perseguano sviluppi che ridurrebbero ulteriormente questa capacità di leggere l'AI. Un monito che arriva proprio mentre i modelli diventano sempre più complessi e opachi.
Licenziamenti e smentite
I tre ex dipendenti hanno anche approfittato della lettera per dichiarare di non credere di aver stabilito contatti con terzi al di fuori delle proprie funzioni, circostanza contestata loro per giustificare l'allontanamento. Secondo la loro versione, il licenziamento avrebbe avuto un effetto dissuasivo su chi resta in OpenAI, scoraggiando potenziali segnalazioni di preoccupazioni simili.
Da parte di OpenAI, l'azienda di Sam Altman smentisce di aver licenziato le tre persone per le loro opinioni, pur condividendo le preoccupazioni espresse. La vicenda riaccende il dibattito sulla trasparenza e sulla sicurezza nello sviluppo dell'intelligenza artificiale di frontiera, un tema sempre più centrale man mano che i modelli acquisiscono capacità di ragionamento avanzato.
