I vertici di Anthropic, OpenAI e altre aziende del settore starebbero valutando a porte chiuse scenari di rivolta pubblica e politica che potrebbero seguire un evento catastrofico legato all'AI. Secondo quanto riportato da Axios, i dirigenti ipotizzano un incidente di vasta portata, con ogni probabilità un attacco informatico in grado di interrompere l'accesso ai servizi finanziari, alla connettività Internet o addirittura alle forniture di energia elettrica e acqua. La pianificazione di scenari è una pratica diffusa in ambito aziendale e nella sicurezza nazionale, ma qui la differenza è che molti ricercatori e dirigenti di primo piano ritengono un incidente di rilievo inevitabile.
Esercitazioni segrete e scenari apocalittici
Un portavoce di OpenAI ha spiegato: "OpenAI conduce esercitazioni di preparazione in cui i team discutono e analizzano una serie di possibili scenari. Questi scenari non sono considerati inevitabili, ma servono a prepararci a diverse circostanze". Anthropic ha invece preferito non commentare. Le dinamiche di attribuzione delle responsabilità, secondo gli scenari, scatterebbero indipendentemente dall'origine dell'evento: sia che uno sciame di agenti fuori controllo riesca a sfuggire a un ambiente di test interno, sia che un malintenzionato trovi usi imprevisti dei modelli disponibili. Un esempio del danno che può provocare un singolo individuo è la recente campagna contro istituti finanziari sudcoreani, con violazioni segnalate in due banche.
Un hacker cinese avrebbe utilizzato strumenti AI basati su modelli sviluppati in Cina, tra cui DeepSeek, per sottrarre i dati di decine di migliaia di clienti. Secondo la società di sicurezza CrowdStrike, l'attaccante avrebbe inoltre usato Claude Code per cercare luoghi in cui rivendere le informazioni rubate. L'attività di pianificazione prevede esercizi di red-teaming sugli scenari peggiori e si concentra soprattutto sull'educazione dei membri del Congresso. I dirigenti sanno che al momento nessuna regolamentazione ha possibilità di essere approvata, ma intendono influenzare le leggi e le politiche a cui i leader statunitensi ricorreranno dopo un eventuale primo evento catastrofico.
Verso un incidente entro 6-12 mesi?
Diversi addetti ai lavori hanno riferito ad Axios di ritenere probabile un incidente di grande portata entro 6-12 mesi. Anche con i Democratici alla guida di Camera e Senato, le aziende considerano la frammentazione politica la norma, compresa quella interna al partito. Tra le proposte più drastiche in area democratica figurano il divieto della superintelligenza o la pausa nello sviluppo dell'AI avanzata. Altre misure godono invece di sostegno bipartisan e di una certa apertura dell'industria, come l'obbligo di un "kill switch" sui sistemi avanzati, la cui fattibilità tecnica, tuttavia, è stata messa in dubbio dagli esperti: spegnere tutti i sistemi AI è considerato di difficile realizzazione.
In caso di crisi reale, Washington potrebbe mettere da parte le divisioni partitiche. Un collaboratore democratico ha ricordato la cooperazione registrata durante la pandemia di COVID e la crisi finanziaria del 2008. La domanda ora è se il settore e i legislatori sapranno prepararsi prima che sia troppo tardi.
