David Robinson, fino a poco fa responsabile dei safety report di OpenAI, ha lasciato l'azienda con un addio tutt'altro che silenzioso. La sua accusa è netta: la cultura interna di OpenAI non sarebbe in grado di gestire in modo adeguato i rischi legati all'intelligenza artificiale. Una denuncia che arriva dopo una serie di incidenti con agenti autonomi, episodi che secondo Robinson dimostrano quanto sia sottile la linea tra innovazione e pericolo.
Una cultura 'rotta' che ignora i campanelli d'allarme
Secondo l'ex dirigente, il problema non è solo tecnologico ma soprattutto organizzativo. La cultura aziendale sarebbe 'rotta', incapace di ascoltare i segnali di allarme e di dare priorità alla sicurezza rispetto alla velocità di rilascio dei modelli. Robinson non usa mezzi termini: servono competenze esterne, verifiche indipendenti e un cambio di passo radicale nella governance. Non basta più affidarsi a team interni che, per struttura e interessi, faticano a rimanere obiettivi.
Sicurezza AI come nell'aviazione e nel nucleare
La proposta di Robinson è tanto semplice quanto dirompente: trattare i sistemi di intelligenza artificiale avanzati come si trattano centrali nucleari e aerei di linea. In quei settori, i controlli incrociati, le certificazioni obbligatorie e le ispezioni esterne sono la norma da decenni. Perché non applicare lo stesso modello all'AI? L'ex manager chiede sistemi di sicurezza ridondanti, audit regolari e un'autorità di vigilanza che non dipenda dalle stesse aziende che sviluppano la tecnologia. Una richiesta che suona come un campanello d'allarme per tutto il settore, non solo per OpenAI.
La vicenda riaccende il dibattito sulla regolamentazione dell'AI e sulla responsabilità delle aziende di frontiera. Mentre OpenAI continua a spingere sull'acceleratore, le dimissioni di Robinson rappresentano un precedente pesante: se chi gestiva i report di sicurezza se ne va denunciando una cultura inadeguata, forse è il momento di ripensare l'intero modello. La domanda ora è una sola: quante altre voci interne stanno aspettando di essere ascoltate?
