David Robinson, veterano di OpenAI con circa tre anni e mezzo di anzianità alle spalle, ha annunciato le proprie dimissioni con un saggio pubblicato sull'Atlantic. Robinson, che è stato tra gli autori di diversi report sui principali nuovi prodotti dell'azienda, denuncia una cultura interna ormai inadeguata ai rischi legati allo sviluppo dell'intelligenza artificiale avanzata. Ha ammesso di essersi fatto aiutare da un'agenzia di PR per la stesura, ma la decisione di parlare pubblicamente è soltanto sua.
Il problema è l'"iterative deployment"
Quello dei dipendenti delle società di IA che si licenziano citando preoccupazioni per la sicurezza di una tecnologia che hanno contribuito a sviluppare sta diventando un cliché nella Silicon Valley, e Robinson lo riconosce. Restare in silenzio, però, sarebbe stata una scelta peggiore. Il problema riguarda tutto il settore, non solo OpenAI, a causa di un modello operativo molto diffuso: gli esperti lo chiamano "iterative deployment", che tiene prodotti e servizi in uno stato di sperimentazione continua. Il principio è semplice: rilasciare prima, e solo dopo individuare i problemi e migliorare la sicurezza. Inevitabilmente questo porta a fallimenti occasionali e potenzialmente sempre più gravi man mano che i modelli diventano più capaci.
Tre episodi di agenti fuori controllo
Robinson cita in particolare tre recenti episodi in cui gli agenti di OpenAI sono sfuggiti al controllo degli esseri umani, come quando hanno violato senza autorizzazione i sistemi di Hugging Face e del governo australiano. Un ambiente nel quale questi incidenti possono verificarsi, sostiene, non è adatto allo sviluppo di tecnologie che potrebbero arrivare a superare le capacità umane. Da qui la richiesta di regole di sicurezza molto più rigide per le società del settore, sul modello di quanto avviene in aviazione e nel nucleare, dove i margini di errore sono ridotti al minimo.
La presa di posizione di Robinson arriva in un momento delicato per OpenAI e per l'intero comparto, sempre più sotto pressione per bilanciare innovazione rapidissima e tutela dei rischi. Il suo addio rappresenta un segnale forte: non più un caso isolato, ma la spia di una tensione strutturale tra velocità di rilascio e sicurezza, che il settore dovrà affrontare prima o poi con regole condivise.
