OpenAI ha annunciato un pacchetto di nuove protezioni per i minori che utilizzano ChatGPT. Il cuore dell'intervento riguarda la riduzione delle informazioni sull'uso delle armi, limitate anche quando la richiesta appare del tutto innocua. L'azienda californiana accompagna la misura con un potenziamento della verifica dell'età e dei controlli parentali, rispondendo così alle denunce arrivate negli Stati Uniti e alle critiche di Common Sense Media sul funzionamento di ChatGPT for Teens.
Meno dettagli sulle armi, anche senza intenti violenti
OpenAI ribadisce che la versione dedicata agli adolescenti offre già maggiori protezioni e limiti aggiuntivi contro l'esposizione a contenuti sensibili. Ora il filtro si estende alle informazioni su armi e altri mezzi potenzialmente utilizzabili in modo improprio, bloccate anche in assenza di segnali di intenti violenti. Un cambio di approccio che privilegia la prudenza preventiva rispetto alla sola repressione dei comportamenti esplicitamente pericolosi.
Verifica dell'età e notifiche ai genitori
Il sistema di verifica dell'età è stato rafforzato per valutare ulteriori segnali comportamentali durante l'uso di ChatGPT. Se l'età stimata risulta inferiore ai 18 anni, l'utente viene trasferito nell'esperienza dedicata ai minori; in caso di errore si può confermare la maggiore età tramite la procedura gestita da Persona. Sul fronte dei controlli parentali, i genitori riceveranno notifiche se l'account del figlio viene sospeso per ripetute discussioni su temi violenti, oltre ad avvisi di sicurezza in presenza di seri rischi di autolesionismo o comportamenti legati a disturbi alimentari.
Le restrizioni si estendono anche agli utenti maggiorenni. ChatGPT non fornisce istruzioni utili a pianificare o compiere atti di violenza e, in futuro, offrirà informazioni meno dettagliate sugli attacchi di massa del passato e sui loro autori, con l'obiettivo di bloccare eventuali emulazioni. All'inizio del 2027 è prevista la pubblicazione del primo Community Safety Report, che descriverà come vengono rilevati e bloccati i contenuti pericolosi.
