La scorsa estate il governo degli Stati Uniti ha imposto ad Anthropic di sospendere l'accesso a Claude Fable 5 e Mythos 5 per qualsiasi cittadino straniero, dentro e fuori dai confini americani, compresi i dipendenti esteri dell'azienda. La motivazione addotta era la sicurezza nazionale. Non disponendo di un sistema affidabile per verificare la nazionalità degli utenti in tempo reale, Anthropic ha bloccato entrambi i modelli per tutti, fino alla revoca dei controlli. Per evitare che una situazione simile si ripeta, l'azienda ha ora sottoposto ai legislatori di Washington una bozza di legge federale che restringerebbe in modo significativo i margini d'azione del governo contro i modelli di intelligenza artificiale.
Le nuove soglie per fermare un modello
Secondo il testo, l'esecutivo potrebbe bloccare i modelli di IA più avanzati solo davanti a un rischio prevedibile e imminente di danni superiori a un miliardo di dollari, oppure di oltre 50 tra morti e feriti gravi. Le minacce considerate sarebbero soltanto tre: la creazione o il rilascio di un'arma biologica, un modello che sfugge al controllo del suo sviluppatore e un attacco informatico. La bozza imporrebbe inoltre agli sviluppatori di adottare framework di sicurezza, pubblicare rapporti di trasparenza per ogni nuovo modello, tutelare i segnalatori di irregolarità e comunicare gli incidenti critici al Dipartimento del Commercio.
Il rispetto degli obblighi sarebbe verificato da valutatori indipendenti registrati presso lo stesso dipartimento, che esaminerebbero periodicamente aziende e modelli. I laboratori potrebbero retribuirli, a patto che il compenso non dipenda dall'esito delle valutazioni. Un rischio imminente tra quelli previsti andrebbe notificato entro 72 ore. Il passaggio più delicato riguarda chi avrebbe il potere di intervento: il Dipartimento del Commercio non potrebbe fermare un modello da solo, ma dovrebbe chiedere un'ordinanza al tribunale federale del Distretto di Columbia. Nessun'altra agenzia o funzionario federale potrebbe sospendere sviluppo, distribuzione o uso interno di un modello.
Reazioni divise e precedenti politici
La bozza prevarrebbe su alcune norme statali, in particolare quelle sulla comunicazione pubblica dei rischi, sulle valutazioni indipendenti e sulla segnalazione degli incidenti critici. È un tipo di proposta a cui i Democratici si sono già opposti in passato. A giugno, invece, Anthropic sosteneva che gli Stati dovessero mantenere piena autorità di legiferare in assenza di una legge federale solida. Le reazioni sono spaccate: Charlie Bullock dell'Institute for Law & AI ha giudicato il testo "piuttosto ragionevole" e più avanzato di quanto fatto da altri laboratori, pur ritenendolo più debole del FRONTIER Act. Il legale Jay Shooster lo ha bollato come scandaloso e inaccettabile, mentre Matt Spence, ex Pentagono, ha scritto su X che la bozza impedirebbe di fatto di agire contro quasi ogni rischio esistenziale imprevisto, limitando i poteri del governo ai soli ambiti informatico e biologico.
