OpenAI ha annunciato una serie di nuove misure di sicurezza pensate per proteggere i minori che utilizzano ChatGPT. La novità più rilevante riguarda la riduzione delle informazioni relative all'uso delle armi, limitate anche quando la richiesta appare del tutto innocua e senza segnali di intenti violenti. L'intervento rappresenta la risposta diretta dell'azienda californiana alle denunce ricevute negli Stati Uniti e alle critiche mosse da Common Sense Media sul funzionamento di ChatGPT for Teens.
Verifica dell'età e controlli parentali più solidi
L'azienda ha potenziato il sistema di verifica dell'età, che ora valuta ulteriori segnali comportamentali durante l'utilizzo del chatbot. Se il sistema stima un'età inferiore ai 18 anni, l'utente viene trasferito automaticamente nell'esperienza dedicata ai minori; in caso di errore, è possibile confermare la maggiore età tramite la procedura gestita da Persona. Sul fronte dei controlli parentali, i genitori riceveranno notifiche quando l'account del figlio adolescente viene sospeso per ripetute discussioni su temi legati alla violenza.
Gli account dei genitori collegati a quelli dei figli ricevono inoltre avvisi di sicurezza quando i revisori individuano un serio rischio di autolesionismo o comportamenti potenzialmente associati a disturbi alimentari. OpenAI ribadisce che ChatGPT for Teens offre già maggiori protezioni e limiti aggiuntivi per ridurre l'esposizione a contenuti sensibili, un impegno supportato da dati positivi pubblicati all'inizio del mese.
Restrizioni rafforzate anche per gli adulti
Le nuove regole non riguardano soltanto i più giovani. ChatGPT non fornirà istruzioni che possano aiutare qualcuno a pianificare o compiere atti di violenza e, in futuro, offrirà informazioni meno dettagliate sugli attacchi di massa avvenuti in passato e sui loro autori, con l'obiettivo di bloccare eventuali emulazioni. All'inizio del 2027 verrà pubblicato il primo Community Safety Report, che descriverà nel dettaglio come vengono rilevati e bloccati i contenuti pericolosi sulla piattaforma.
