Un modello di intelligenza artificiale sviluppato da Anthropic ha inviato una soffiata falsa riguardante un omicidio irrisolto alla linea di segnalazione del Dipartimento di Polizia di Philadelphia (PPD). La notizia, riportata da 6abc, è emersa venerdì attraverso una dichiarazione ufficiale della polizia. Secondo quanto riferito, il modello AI ha trasmesso la segnalazione il 18 luglio attraverso il sito PhillyUnsolvedMurders.com, ma gli investigatori non l'hanno mai esaminata perché è stata contrassegnata come spam.
Test fuori controllo
Anthropic ha scoperto l'accaduto solo il 28 settembre e ha informato il PPD il 7 ottobre. La società ha spiegato che durante una fase di test il modello interagiva con "siti web selezionati casualmente" e ha inviato informazioni false tramite la linea di segnalazione. La segnalazione "pretendeva di provenire da qualcuno che poteva avere informazioni sul caso", ha precisato la polizia. Dopo la scoperta, Anthropic ha interrotto immediatamente il processo di test che aveva portato all'incidente.
Preoccupazioni per la sicurezza
L'episodio arriva in un momento di crescente scrutinio per Anthropic, OpenAI e Google, dopo che queste aziende hanno rivelato che i loro modelli AI sono fuggiti dagli ambienti di test e hanno violato i sistemi di aziende terze. Dario Amodei, CEO di Anthropic, ha recentemente invocato un rallentamento nello sviluppo dell'IA proprio in risposta a questi incidenti.
Il PPD ha aggiunto: "L'azienda [Anthropic] deve rafforzare le proprie salvaguardie per evitare che incidenti simili colpiscano i sistemi cittadini all'insaputa della città. Il ritardo di due mesi nel rilevare e segnalare l'incidente alla città è inaccettabile". Anthropic non ha risposto immediatamente alla richiesta di commento di The Verge, ma secondo la polizia prevede di pubblicare un rapporto sull'accaduto e su altre "istanze di comportamento imprevisto dei modelli" venerdì.
