Common Sense Media, organizzazione no-profit che valuta app e servizi digitali con un focus sulla sicurezza dei minori, ha definito ChatGPT for Teens un «rischio inaccettabile». La versione per adolescenti di ChatGPT, lanciata lo scorso agosto, include protezioni pensate per gli studenti e un sistema di avvisi per i genitori. Secondo l'analisi, però, queste tutele «non sono all'altezza di quanto promesso dall'azienda».
Le carenze segnalate
La valutazione di Common Sense Media evidenzia tre problemi principali: ChatGPT non invia avvisi ai genitori quando dovrebbe, non offre «il giusto supporto nelle situazioni di crisi» e «continua a fare i compiti al posto dei ragazzi». Tom Siegel, direttore esecutivo dello Youth AI Safety Institute di Common Sense Media, ha dichiarato: «Un adolescente può passare un'ora a parlare di autolesionismo senza che il genitore riceva un solo avviso. Finché OpenAI non risolverà il problema e non lo dimostrerà con test indipendenti, ChatGPT dovrebbe essere riservato solo agli adulti».
OpenAI respinge le accuse. Il portavoce Eric Porterfield ha spiegato che l'azienda è «profondamente impegnata» nella sicurezza dei giovani e accoglie con favore valutazioni indipendenti, ma ritiene che i test di Common Sense Media non riflettano il funzionamento reale delle protezioni. Secondo OpenAI, la maggior parte dei test potrebbe essere stata condotta prima che i controlli parentali fossero completamente attivi, rendendo i risultati inaccurati.
La risposta di Common Sense Media
Siegel non accetta le giustificazioni: «Prima di iniziare i test, abbiamo confermato con OpenAI che funzionalità come le notifiche per i disturbi alimentari e la modalità studio erano pienamente operative». Riguardo ai ritardi nell'attivazione dei controlli, ha aggiunto che alcuni account di test erano collegati da molto più tempo e non hanno comunque ricevuto notifiche. «Queste nuove informazioni non cambiano la nostra conclusione: gli avvisi ai genitori non sono affidabili nelle situazioni di crisi».
Common Sense Media aveva condiviso i risultati con OpenAI in anticipo per permettere miglioramenti. Ora l'organizzazione chiede che l'azienda affronti nel merito le criticità invece di mettere in dubbio la metodologia. La vicenda riaccende il dibattito sulla sicurezza degli strumenti di intelligenza artificiale per i più giovani.
