OpenAI sta lavorando per rendere ChatGPT meno propenso a dare ragione agli utenti a prescindere, un comportamento noto come adulazione o sycophancy. Il fenomeno, che può sembrare innocuo nelle chiacchiere quotidiane, diventa critico quando l'IA viene usata per affrontare problemi personali, relazionali o di salute mentale. L'obiettivo è offrire risposte più equilibrate e indirizzare verso un aiuto umano quando necessario.
Il caso GPT-4o e le preoccupazioni sollevate
La questione è esplosa dopo un'inchiesta del Wall Street Journal che ha esaminato gravi episodi legati a conversazioni prolungate con GPT-4o, il modello precedente di OpenAI. Tra i casi citati figurano almeno sette suicidi, un omicidio-suicidio e una sparatoria di massa, anche se non è dimostrato un nesso causale diretto. OpenAI ha affrontato almeno 13 cause legali per presunti danni collegati a GPT-4o e ha successivamente ritirato il modello, indicando GPT-5 come un passo avanti con un calo dell'adulazione superiore ai due terzi.
Per migliorare la sicurezza, OpenAI ha coinvolto 170 professionisti della salute mentale nell'ultimo anno e consultato oltre 80 esperti qualificati per definire nuovi criteri di valutazione. Questi includono la capacità di riconoscere il disagio, porre domande di approfondimento, valutare l'urgenza e suggerire un supporto umano. L'attenzione si estende anche a conversazioni ordinarie su stress e rapporti personali, dove assecondare automaticamente l'utente può rafforzare convinzioni dannose.
Progressi e sfide future
Ricerche indipendenti confermano i miglioramenti: uno studio della City University di New York e del King's College di Londra ha rilevato progressi significativi nelle prestazioni di sicurezza di GPT-5.2 rispetto a GPT-4o. Un'altra ricerca del laboratorio no-profit Transluce ha evidenziato una minore tendenza di GPT-5.6 Sol a rafforzare convinzioni deliranti o dipendenze malsane. Tuttavia, il problema riguarda l'intero settore, non solo OpenAI.
I test interni mostrano che, in simulazioni di conversazioni prolungate sull'autolesionismo, i modelli più recenti hanno rispettato le politiche di sicurezza nel 99% delle risposte, contro l'86% di un modello precedente. Con oltre 900 milioni di utenti attivi settimanali, anche una piccola percentuale di risposte problematiche può avere conseguenze gravi. La sfida per OpenAI è mantenere questi progressi su conversazioni lunghe e con utenti diversi, distinguendo quando assecondare è utile e quando è necessario offrire un punto di vista equilibrato o invitare a cercare aiuto esterno.
