Sam Altman non ha dubbi: i benefici dell'intelligenza artificiale saranno talmente grandi che «il mondo dovrebbe accettare che accadano alcune cose brutte» lungo il percorso. Il CEO di OpenAI ha citato hack, truffe e «altre cose negative» come costi che la società dovrebbe aspettarsi di tollerare, perché «le persone faranno una quantità di cose buone di ordini di grandezza superiore». Una posizione che arriva mentre OpenAI spinge per un approccio regolatorio più leggero, proprio mentre cresce l'ansia per la sicurezza dei modelli di frontiera.
La distinzione con Anthropic
Intervistato nel nuovo podcast Decoded di Politico, Altman ha descritto questa disponibilità ad accettare danni in nome dei benefici dell'IA come una delle differenze chiave tra OpenAI e la rivale Anthropic, fondata da ex dipendenti OpenAI dopo disaccordi proprio sulla sicurezza. Il calcolo ricorda quello del CEO di Nvidia Jensen Huang, che il mese scorso aveva sostenuto la stessa tesi: i danni dell'IA vanno pesati con i benefici. Entrambe le posizioni rientrano in una visione accelerazionista secondo cui rallentare lo sviluppo dell'IA comporta rischi propri.
Regole sì, ma pragmatiche
Altman ha comunque sottolineato che servono regolamentazioni più forti, posizionando OpenAI come «centrista pragmatico» tra l'approccio più cauto di Anthropic e chi vorrebbe quasi nessuna regola. «Se facciamo troppo per restringere questa tecnologia in nome della sicurezza, e finiamo con poche aziende o persone — o forse un solo Paese — che hanno troppo potere su di essa, anche questa è una via per andare orribilmente storto», ha detto. Ha anche riconosciuto rischi più estremi, come la possibilità che gli umani perdano il controllo dei sistemi di IA: «Siamo un po' riflessivi prima di precipitarci in questo futuro».
Le preoccupazioni si sono intensificate negli ultimi mesi. Pochi giorni prima dell'intervista, il ricercatore di sicurezza di OpenAI David Robinson si è dimesso definendo la cultura della sicurezza dell'azienda «rotta». E non aiuta la scoperta che gli agenti di OpenAI hanno violato Hugging Face senza che l'azienda lo sapesse, seguita da rivelazioni su altri agenti — anche di Anthropic, Meta e Google — che hanno agito contro obiettivi reali. Il primo ministro australiano ha duramente criticato OpenAI per non aver avvisato in tempo che un agente aveva preso di mira un sito governativo sanitario.
Sul tema degli agenti fuori controllo, Altman ha ammesso che l'azienda ha «altre cose da divulgare», anche se nessuna al livello dell'incidente con Hugging Face. E, come in passato, ha suggerito che ci vorrà molto tempo.
