Chiedere a ChatGPT di suggerire gruppi musicali simili ai Nirvana sembra una richiesta innocua. Eppure, senza dire nulla, il chatbot prende nota: «all'utente piacciono i Nirvana». Un appunto qui, un'ipotesi là, e alla fine emerge un ritratto personale dettagliato di cui il diretto interessato non sa praticamente nulla. È così che nascono quelli che i ricercatori chiamano «autoritratti algoritmici».
Cosa emerge dallo studio
Un gruppo di studiosi di Germania, India e Paesi Bassi ha presentato all'ACM Web Conference 2026 un lavoro su come ChatGPT registra e interpreta le conversazioni. Il materiale proviene da 80 utenti reali, che hanno ottenuto la cronologia delle loro chat grazie alle leggi europee sulla privacy e l'hanno donata alla ricerca. Dentro sono state individuate 2.050 «memorie» appartenenti a 65 persone.
Il dato più significativo riguarda l'origine di queste memorie: il 96% è stato creato dal chatbot di sua iniziativa, senza che gli utenti scegliessero cosa archiviare. Quanto al contenuto, circa il 28% delle memorie conteneva dati personali ai sensi del GDPR, mentre il 52% custodiva intuizioni psicologiche: come ragionano gli utenti, di cosa hanno paura, cosa li muove.
Ipotesi travestite da fatti
Le memorie non sono sempre fotografie esatte della realtà: spesso sono deduzioni mascherate da fatti. Chi ha chiesto band simili ai Nirvana si è ritrovato nel profilo la voce «gli piacciono i Nirvana», un'inferenza che ChatGPT aveva etichettato come «debolmente supportata» ma che resta nel ritratto dell'utente. Secondo Abhisek Dash, primo autore dello studio, il problema è che le piattaforme non si limitano più a vendere pubblicità: oggi conversano con gli utenti e, per farlo bene, vogliono sapere sempre di più.
Il punto debole, secondo Dash, è che molti non trattano il chatbot come un attrezzo ma come un collega o un amico, confidando dettagli molto personali. Se il sistema ci conosce a fondo e il suo scopo è assecondarci per farci tornare, le conseguenze possono essere serie: dalla polarizzazione politica estrema al rafforzamento di pregiudizi. La comodità di un assistente che ricorda è reale, ma la stessa funzione ha un lato oscuro, collegato anche a casi di «psicosi da AI» dopo il maxi aggiornamento della memoria di aprile 2025.
Una cautela è comunque d'obbligo: OpenAI ha aggiornato il sistema di memoria a gennaio con un nuovo meccanismo di sintesi dei ricordi, quindi alcuni risultati potrebbero fotografare una versione superata di ChatGPT. E chi non vuole essere ricordato può sempre disattivare la funzione.
