Immaginate di salire su un aereo e sentire il comandante annunciare: «Buongiorno, le probabilità di arrivare a destinazione sono più o meno la metà. Allacciate le cinture». Poi i motori partono lo stesso e il comandante resta al suo posto. È più o meno la sensazione che lasciano i video pubblicati sul sito frominside.ai, dove una decina di ricercatori che lavorano o hanno lavorato per OpenAI, Google e Anthropic — le aziende che l'intelligenza artificiale la sviluppano davvero — guardano la telecamera e spiegano che ciò che stanno costruendo potrebbe cancellarci dalla faccia della Terra.
La frase che fa più rumore è di Geoffrey Irving, che ha lavorato sia per OpenAI che per Google DeepMind: «Secondo me la probabilità che l'umanità si estingua è più o meno quella di un lancio di moneta». La pronuncia con la calma di chi commenta le previsioni del tempo e, forse proprio per questo, mette i brividi. Dietro l'operazione c'è Palisade Research, organizzazione no profit dedicata allo studio delle capacità e delle motivazioni delle intelligenze artificiali. Il nome non è nuovo: nel 2025 era finita sui giornali per alcuni test in cui certi modelli avevano cercato di evitare lo spegnimento.
Le percentuali che fanno discutere
Rispetto a Irving, Neel Nanda, ricercatore di Google DeepMind, sembra quasi ottimista: parla di almeno il 10 per cento di probabilità che l'AI causi l'estinzione umana. E aggiunge subito, per chi stesse tirando un sospiro di sollievo: «È una cifra ridicolmente alta». Ha ragione: nessuno salirebbe su un ascensore che precipita una volta su dieci, nessuno comprerebbe uno yogurt con il dieci per cento di probabilità di essere letale. Eppure, quando si parla di AI, un numero del genere passa quasi per la posizione moderata. Questo dice parecchio su quanto si sia spostata l'asticella del dibattito pubblico.
Daniel Kokotajlo va oltre. Ex ricercatore di OpenAI, nel 2024 ha lasciato l'azienda in modo tutt'altro che silenzioso. Secondo lui una superintelligenza artificiale sarebbe fondamentalmente potente come un dio. Fin qui sembra la trama di un film di fantascienza di serie B. Poi arriva la parte che toglie ogni voglia di ridere: «Purtroppo non sappiamo affatto come controllarle. Quindi probabilmente nessuno le controllerebbe. È esattamente pericoloso come sembra, e non si deve permettere che succeda». Il quadro che ne esce è surreale: da una parte un'entità onnipotente senza un padrone, dall'altra un'industria che investe centinaia di miliardi per arrivarci per prima.
Allarme senza piano d'azione
Chi si aspetta un piano d'azione dopo tanto allarme resterà deluso. Le interviste descrivono bene il pericolo, ma non indicano una soluzione condivisa. Del resto la stessa comunità della cosiddetta «AI safety» fatica a spiegare che cosa voglia dire quell'espressione: c'è chi la intende come ricerca tecnica per rendere i modelli controllabili, chi come pressione politica per rallentare, chi come un modo per rassicurare gli investitori. Sotto lo stesso ombrello stanno persone che vogliono fermare tutto e persone che vogliono solo guidare con più prudenza. E l'ombrello, a guardarlo bene, ha parecchi buchi.
Una delle sezioni più interessanti del sito affronta il sospetto che viene in mente a chiunque: e se fosse tutto marketing? In effetti la paura vende bene, e dire che il proprio prodotto è così potente da poter distruggere il mondo è una pubblicità efficace. La risposta più onesta arriva da Mary Phuong, di Google: «Credo che dobbiate assolutamente diffidare di quello che dico, perché sono pagata dal laboratorio». È raro sentirlo dire così esplicitamente. Un'ammissione del genere non chiude la questione, ma almeno la mette sul tavolo invece di nasconderla sotto il tappeto.
E allora perché non se ne vanno? È la domanda più ovvia: se pensi che il tuo lavoro possa portare all'estinzione della specie, perché ogni mattina ti presenti in ufficio? Nanda risponde senza girarci intorno: «Se non credessi che il mio lavoro stia riducendo direttamente questi rischi esistenziali, me ne andrei… Queste aziende non smetteranno di costruire questi sistemi solo perché io me ne vado». È un ragionamento comprensibile, ma che lascia interdetti. Il paradosso resta: chi sa di più è anche chi contribuisce a costruire ciò che teme, e nessuno — né i ricercatori, né le aziende, né i governi — sembra avere la ricetta per fermarsi in tempo.
