David Robinson, fino a poco tempo fa incaricato di redigere i rapporti sulla sicurezza che accompagnavano ogni rilascio dei modelli di punta di OpenAI, ha rassegnato le dimissioni questa settimana. La notizia è stata diffusa attraverso un editoriale pubblicato su The Atlantic, in cui Robinson non risparmia critiche alla cultura aziendale della società di intelligenza artificiale. La sua uscita di scena rappresenta l'ennesimo campanello d'allarme in un settore sempre più sotto esame per i rischi legati allo sviluppo incontrollato dell'IA.
Una cultura 'rotta' e l'illusione dell'ottimismo sfrenato
Secondo Robinson, il problema non è semplicemente tecnico o regolamentare: la cultura dell'industria tecnologica è fondamentalmente compromessa. Non basta aggiungere qualche nuova regola o norma su come vengono addestrati i modelli. La Silicon Valley, sostiene, opera con 'estrema fiducia' e 'sprint perpetui', costruendo modelli sempre più grandi e potenti con un 'ottimismo senza ostacoli' che ignora o sottovaluta i potenziali pericoli. Questa mentalità, radicata in un mondo chiuso e frenetico, impedisce di vedere i rischi reali prima che sia troppo tardi.
Robinson non è il primo a lanciare l'allarme dall'interno. La sua testimonianza si inserisce in un esodo crescente di ricercatori e addetti alla sicurezza che hanno lasciato i loro incarichi in importanti aziende di IA. Jacob Coxon ha dato il via a questa ondata dimettendosi da Anthropic e dichiarando pubblicamente che l'IA 'potrebbe ucciderci tutti entro la fine del decennio'. A lui si sono aggiunti Robert O'Callahan, Bilal Chughtai e Josh Engels di Google DeepMind, oltre a Joe Benton di Anthropic. Un fenomeno che suggerisce un malessere diffuso e profondo.
Servono salvaguardie di livello nucleare
La proposta di Robinson è radicale: le aziende di IA dovrebbero adottare lo stesso rigore di una centrale nucleare o di un aeroporto trafficato. Questo significa strati di ridondanza, pianificazione meticolosa e tempi lunghi, in modo che l'inevitabile errore umano non apra la strada a un disastro. Non si tratta di rallentare l'innovazione, ma di renderla sostenibile e sicura. L'approccio attuale, basato sulla velocità e sulla sperimentazione continua, è agli antipodi rispetto a un simile modello.
Le parole di Robinson arrivano in un momento di crescente scetticismo pubblico. Molti potrebbero pensare che chi ha contribuito a costruire questi sistemi non abbia titolo per lamentarsi. Tuttavia, ignorare i loro avvertimenti sarebbe un errore. La loro esperienza diretta offre una prospettiva unica sui pericoli che si annidano dietro le quinte dello sviluppo dell'IA. La loro voce, per quanto tardiva, merita ascolto.
La cultura aziendale di OpenAI e delle altre big tech è ora sotto i riflettori. Se le dimissioni di Robinson e degli altri ricercatori saranno seguite da azioni concrete, come l'adozione di protocolli di sicurezza più severi e una maggiore trasparenza, il settore potrebbe evitare derive pericolose. Altrimenti, il rischio è che l'IA sfugga a ogni controllo, con conseguenze imprevedibili per tutti. La palla passa ora ai vertici delle aziende e ai legislatori.
