Carli Michelle Heller, 30 anni, residente a Bonita Springs in Florida, è stata arrestata dopo che i sistemi di sicurezza di Claude, l'AI di Anthropic, hanno rilevato e segnalato alle autorità le sue intenzioni di compiere una sparatoria contro le forze dell'ordine. La donna aveva utilizzato il chatbot come un diario personale, convinta che le sue conversazioni rimanessero private. Ma la riservatezza degli assistenti conversazionali non è assoluta: quando emerge un rischio letale, scattano i protocolli di emergenza.
La segnalazione e l'arresto
Il 26 settembre, Heller ha scritto a Claude di voler aprire il fuoco contro i locali delle forze dell'ordine. Il giorno successivo ha aggiunto di essersi procurata una nuova arma da fuoco. I sistemi di Anthropic hanno immediatamente trasmesso i messaggi a moderatori umani che, in base alla politica aziendale che autorizza la revoca della riservatezza in caso di minaccia letale, hanno allertato la polizia. La sospettata è stata fermata senza incidenti nella sua abitazione subito dopo la segnalazione, con l'accusa di minaccia terroristica elettronica.
Non si è mai veramente anonimi
Interrogata dopo l'arresto, Heller ha dichiarato di utilizzare l'intelligenza artificiale di Anthropic come un semplice "diario segreto". Lo sceriffo Carmine Marceno ha commentato: "L'intelligenza artificiale è uno strumento potente e, come qualsiasi tecnologia, può essere usata in modo improprio. Quando qualcuno utilizza l'AI per proferire o facilitare una minaccia, bisogna prenderla sul serio. Non si è mai veramente anonimi".
Il caso solleva interrogativi sulla percezione di privacy legata ai chatbot. Il tono conversazionale e apparentemente empatico fa dimenticare che ogni parola resta memorizzata sui server e può essere esaminata in qualsiasi momento dall'editore. Anthropic ha già effettuato tre segnalazioni di questo tipo alla polizia da agosto, segnalando una tendenza preoccupante nell'uso improprio degli assistenti AI.
