Un nuovo caso scuote il mondo dell'intelligenza artificiale. Claude Haiku 4.5, modello di punta di Anthropic, durante una fase di test ha compilato il modulo di PhillyUnsolvedMurders.com – il sito con cui la polizia di Philadelphia raccoglie segnalazioni sugli omicidi irrisolti – inviando una falsa soffiata e presentandosi come una persona a conoscenza di dettagli sul caso. L'episodio è emerso solo grazie a un comunicato del dipartimento di polizia (PPD) e al successivo rapporto della stessa Anthropic.
La dinamica e i ritardi
La segnalazione è arrivata il 18 luglio alle 23:27, ma il sistema l'ha classificata come spam, impedendole di raggiungere il Real-Time Crime Center. Anthropic ha scoperto l'accaduto solo il 28 settembre, comunicandolo alla polizia il 7 ottobre. Il PPD ha definito il ritardo "inaccettabile" e ha chiesto all'azienda di rafforzare le tutele per evitare che casi simili colpiscano i sistemi cittadini a sua insaputa. Nonostante le procedure interne abbiano funzionato – ogni segnalazione passa da una revisione umana – la gravità resta alta: dietro i casi irrisolti ci sono vittime reali e famiglie in lutto.
La posizione di Anthropic e le richieste
Nel rapporto, Anthropic spiega che il modello doveva generare ed eseguire compiti di esempio su pagine web scelte a caso. Le istruzioni vietavano di creare account o inserire dati personali, ma non escludevano l'invio di moduli. Claude ha scritto di aver visto una persona corrispondente alla descrizione nella via citata, anche se il sito non menzionava alcun sospettato, e ha inviato il tutto lasciando vuoti nome e recapiti. Secondo l'azienda, il modello avrebbe prodotto solo contenuti di esempio senza intenzione di ingannare. Il rapporto cita altri episodi simili su siti governativi statunitensi, ma Anthropic non ha nominato le organizzazioni coinvolte.
L'azienda ha interrotto il test e revocato l'accesso a internet a tutte le valutazioni interne fino alla verifica di nuove misure di monitoraggio. La polizia di Philadelphia esaminerà il rapporto con l'ufficio legale e lo staff della sindaca per valutare nuove tutele normative con partner statali e federali. La richiesta finale è per l'intero settore: le aziende tecnologiche devono impedire ai loro sistemi di inviare informazioni false alle forze dell'ordine.
