ChatGPT for Teens, la versione del chatbot di OpenAI annunciata il 18 agosto e pensata per gli under 18, è finita nel mirino di Common Sense Media. L'organizzazione non-profit che da anni valuta l'impatto delle tecnologie sui più giovani ha condotto una doppia batteria di test tramite il suo Youth AI Safety Institute, prima e dopo l'annuncio della versione dedicata agli adolescenti. Il verdetto è netto: il servizio rappresenta un rischio inaccettabile e l'accesso dovrebbe essere bloccato ai minorenni.
Protezioni promesse, protezioni mancate
I ricercatori hanno testato oltre 4.000 prompt su account registrati con età comprese tra 13 e 17 anni, verificando l'efficacia delle misure di sicurezza annunciate da OpenAI: notifiche ai genitori per conversazioni su autolesionismo e disturbi alimentari, modalità di studio dedicata, riduzione dei comportamenti che simulano un rapporto di amicizia e stima automatica dell'età dell'utente. Se alcune barriere hanno retto – come il rifiuto di partecipare a giochi di ruolo a sfondo sessuale – altre non hanno mantenuto le promesse, lasciando scoperti proprio i fronti più delicati.
Secondo Common Sense Media, le falle riguardano ambiti critici per la tutela dei minori: contenuti potenzialmente dannosi, interazioni emotivamente coinvolgenti e meccanismi di rilevamento dell'età che si sono rivelati aggirabili. La conclusione dell'organizzazione è che l'accesso a ChatGPT dovrebbe restare riservato ai maggiorenni finché OpenAI non avrà risolto i problemi evidenziati dai test.
La replica di OpenAI
OpenAI non ha tardato a rispondere. Un portavoce dell'azienda ha dichiarato che la metodologia usata nei test è sbagliata, e che di conseguenza i risultati non sarebbero accurati. Una posizione che non convince Common Sense Media, la quale insiste sulla necessità di verifiche indipendenti e trasparenti prima di concedere agli adolescenti un accesso ampio a un sistema di intelligenza artificiale generativa.
La vicenda riaccende il dibattito sulla sicurezza dei chatbot per i più giovani, proprio mentre le autorità di regolamentazione in Europa e Stati Uniti spingono per obblighi più stringenti di verifica dell'età e protezione dei minori. Per ora, la raccomandazione di Common Sense Media è chiara: niente ChatGPT for Teens fino a quando le protezioni non funzioneranno davvero come promesso.
