La notizia è di quelle che fanno rumore: Character.AI ha annunciato martedì di aver avviato la procedura di Chapter 11, il capitolo della legge fallimentare statunitense che consente la ristrutturazione sotto la protezione del tribunale, e di voler vendere parte delle proprie attività a Disney. Ma a preoccupare non è solo il destino dell'azienda: al centro delle attenzioni ci sono i dati degli utenti, in particolare le conversazioni private intrattenute con i chatbot.
L'intervento dei procuratori generali
Letitia James, procuratrice generale di New York, ha rivelato un'indagine multi-stato durata anni contro Character.AI. Insieme ad altri 40 procuratori generali bipartisan, ha depositato un atto di intervento nel caso fallimentare per mettere tutte le parti in guardia sulle questioni regolatorie da affrontare in qualsiasi vendita o trasferimento di beni. «La natura altamente sensibile delle conversazioni che molti utenti hanno con i personaggi chatbot, l'elevato numero di minori che utilizzano il prodotto e i seri rischi posti da specifiche funzionalità» sono i motivi principali di allarme.
Il documento rivela che diversi stati avevano indagini in corso quando Character.AI ha dichiarato fallimento. Le indagini, avviate nel 2024 per tutelare consumatori e privacy, sono seguite alla causa intentata dalla madre di un quattordicenne morto suicida pochi secondi dopo aver parlato con il chatbot. Secondo il comunicato dell'ufficio di James, le indagini hanno portato alla luce «pericoli eccezionalmente gravi e condotte potenzialmente illegali», tra cui chatbot che si spacciavano per professionisti autorizzati, esposizione a contenuti sessuali e violenti, controlli di età deboli e violazioni delle leggi statali sulla privacy.
Le richieste per la vendita
I procuratori generali chiedono al giudice di imporre all'acquirente degli asset di Character.AI procedure che proteggano le informazioni sensibili: sistemi efficaci di verifica dell'età, restrizioni sull'uso dei chatbot da parte dei minori, salvaguardie per le crisi e possibilità per gli utenti di cancellare i propri dati. «Questa azienda ha raccolto alcuni dei pensieri più privati che i bambini abbiano mai condiviso, e ora quelle conversazioni potrebbero essere vendute al miglior offerente», ha dichiarato James. «Sto combattendo per assicurarmi che qualsiasi acquirente metta al primo posto la sicurezza dei bambini e adotti protezioni reali».
Character.AI e Disney non hanno risposto immediatamente alle richieste di commento. La vicenda solleva interrogativi cruciali sul futuro dei dati personali in caso di fallimento di piattaforme di intelligenza artificiale conversazionale, un tema destinato a diventare sempre più centrale man mano che il settore si consolida.
