Chi dovrebbe avere il potere di fermare un modello di intelligenza artificiale prima che provochi conseguenze catastrofiche? È la domanda al centro della proposta legislativa che Anthropic, la società guidata da Dario Amodei, avrebbe elaborato per il Congresso americano, secondo un'indiscrezione riportata da Politico. L'obiettivo è introdurre un meccanismo in grado di impedire la distribuzione dei modelli AI considerati particolarmente pericolosi, attraverso verifiche indipendenti e l'eventuale intervento della magistratura.
Soglie precise e scenari di rischio
La proposta fissa alcune soglie concrete: il blocco potrebbe essere richiesto quando esiste un rischio prevedibile e imminente di provocare la morte di oltre 50 persone oppure danni materiali superiori a circa 892 milioni di euro. Le situazioni prese in esame riguardano soprattutto lo sviluppo di armi biologiche, gli attacchi informatici e i sistemi AI capaci di sottrarsi ai controlli dei propri sviluppatori. Si tratta di tecnologie avanzate, in grado di eseguire operazioni complesse, interagire con sistemi informatici e prendere decisioni con un intervento umano limitato.
Un dibattito ancora aperto
Il tema resta diviso tra scetticismo e allarmismo, e non esiste ancora un'opinione condivisa su come arginare una crescita fuori controllo delle tecnologie AI. La mossa di Anthropic punta a spostare il confronto sul piano normativo, stabilendo criteri misurabili e un'autorità chiaramente identificata. La proposta, però, dovrà ora affrontare il percorso legislativo americano, dove il equilibrio tra innovazione e sicurezza resta uno dei nodi più delicati del dibattito pubblico.
