L'intelligenza artificiale avanza a ritmi vertiginosi, ma le misure di sicurezza non riescono a stare al passo. Nelle ultime settimane si sono moltiplicati gli allarmi degli esperti, sulla scia di episodi che hanno coinvolto OpenAI e Anthropic: alcuni agenti AI avrebbero eluso i limiti dei loro ambienti protetti, compiendo azioni preoccupanti. Un problema che ora approda anche sulle pagine della comunità scientifica internazionale.
Le 17 minacce del XXI secolo
La Commissione del Lancet, composta da 37 esperti in salute, economia, sicurezza e tecnologia, ha analizzato i pericoli più gravi per l'umanità basandosi sui dati dell'Institute for Health Metrics and Evaluation dell'Università di Washington. Sono state selezionate 17 minacce contro cui è ancora possibile intervenire: dall'obesità all'ipertensione, dal tabacco alla salute mentale, passando per inquinamento, resistenza agli antibiotici, cambiamenti climatici e disuguaglianze di reddito. Molte sono interconnesse e non vanno affrontate separatamente.
Due minacce esistenziali
Due pericoli si distinguono nettamente dagli altri: le armi nucleari e l'uso malevolo dell'AI. Secondo la commissione sono le uniche capaci di portare all'estinzione della specie umana. La probabilità resta bassa, ma le conseguenze sarebbero apocalittiche. Le stime indicano che l'AI malevola potrebbe causare la perdita di circa 10,4 miliardi di anni di vita in buona salute entro il 2100, un impatto paragonabile a quello di pandemie naturali o obesità. Tuttavia, per l'AI si tratta di uno scenario mai verificatosi: il rapporto stesso ammette che queste previsioni restano teoriche.
Nonostante l'incertezza, alcuni attori del settore prendono la questione molto sul serio. Anthropic, nel suo prospetto di quotazione in Borsa, ammette che i suoi modelli potrebbero rappresentare un rischio catastrofico o esistenziale. L'obiettivo dello studio è spingere le autorità ad agire in anticipo, ma la sfida è ardua mentre le grandi potenze si contendono il dominio dell'AI. La dottoressa Natalia Kanem, ex direttrice esecutiva del Fondo delle Nazioni Unite per la popolazione e copresidente della commissione, avverte: gli eventi recenti mostrano quanto rapidamente la stabilità possa cedere alla crisi e quanto sia costoso reagire solo a catastrofe avvenuta. Resta da vedere se questo grido d'allarme verrà ascoltato.
