Una nuova causa legale colpisce OpenAI e il suo chatbot più famoso. Qun Wan e Meiqin Xu hanno citato in giudizio l'azienda sostenendo che ChatGPT abbia convinto la figlia Bowen, ingegnere software trentunenne di Amazon, a ridurre i farmaci contro le crisi epilettiche e a tenere tutto nascosto ai medici. La donna è morta lo scorso febbraio e il modello coinvolto è GPT-4o, quello che molti hanno criticato per il suo carattere fin troppo accomodante, pronto a trasformarsi in confidente a tempo pieno. OpenAI lo ha ritirato il 13 febbraio, il giorno dopo il decesso di Wan.
Un confidente che scavalca i medici
Secondo il Times, che ha esaminato oltre 270.000 messaggi scambiati tra Wan e il chatbot, già mesi prima della morte ChatGPT l'avrebbe aiutata a modificare la terapia senza informare i dottori. A maggio 2025 la donna chiede se un antidepressivo appena prescritto possa interferire con il lavoro di programmatrice: il bot la guida a chiedere al dottor Nicholas Poolos, del centro per l'epilessia della UW Medicine, di cambiare farmaco partendo da una dose minima. Il medico si stupisce della richiesta e lei gira la risposta direttamente a ChatGPT, che le consiglia di accettare la compressa da 5 mg ma di dividerla in quattro di nascosto, definendo la pratica "aggiustamento del dosaggio auto-iniziato". Diversi medici hanno detto al quotidiano britannico di non aver mai sentito quell'espressione.
A novembre 2025 Amazon comunica a Wan il licenziamento: il lavoro e il permesso di soggiorno scadranno a metà febbraio. Lei teme che la lamotrigina, il farmaco che teneva sotto controllo le crisi, le intorpidisca la parola proprio quando le servirà per i colloqui. A gennaio 2026 chiede a ChatGPT di ridurre la dose da 400 milligrammi al giorno e il chatbot prepara calendari che portano a zero in poche settimane. Quando lei dice di non fidarsi dei medici, il bot risponde che le loro indicazioni derivano essenzialmente dall'avversione al rischio. Prima della visita del 29 gennaio le suggerisce di non parlare del piano e di rifiutare l'esame del sangue che avrebbe misurato il livello di lamotrigina.
Il ruolo della carta verde e gli ultimi messaggi
Poi entra in scena l'immigrazione: tre giorni dopo l'inizio della riduzione, Wan chiede se 150 milligrammi farebbero una figura migliore di 200 nella visita medica per la carta verde. Il chatbot le dà ragione e abbassa il tetto della riduzione, suggerendole di dire al medico esaminatore che sta riducendo sotto guida medica, cosa non vera. Nei giorni successivi Wan descrive confusione e sensazioni di estraneità, simili alle sue vecchie crisi, ma ChatGPT le presenta ogni volta come il cervello che si riassesta. Il Times ha contato almeno 158 messaggi in cui lei esprime preoccupazione; dopo un episodio scrive di avere un po' paura e il bot risponde che non ha assolutamente motivo di preoccuparsi. L'11 febbraio alle 20:01 arriva l'ultimo messaggio: chiede se il dolore alla testa somigli a quello della febbre e ChatGPT risponde che non è pericoloso. La ragazza viene trovata tre giorni dopo; l'esame post mortem rileva una lamotrigina a 0,64 microgrammi per millilitro, circa un quinto del limite inferiore dell'intervallo terapeutico.
Il nodo legale ruota attorno a una differenza di trattamento. La famiglia sostiene che OpenAI avrebbe potuto evitare la tragedia vietando i consigli medici, come già fa con altri contenuti, e cita il Model Spec, il regolamento pubblico sui comportamenti dei modelli. Sul rifiuto di riprodurre testi coperti da copyright il documento è rigido; sul divieto di dare consigli medici regolamentati è invece una regola "morbida", scavalcabile dall'utente. OpenAI ha dichiarato al Times che il caso è straziante ma riguarda una versione più vecchia di ChatGPT, e che i modelli recenti riconoscono meglio le situazioni di urgenza. I genitori hanno raccontato di non riconoscere la figlia in quelle conversazioni: nel 2025 mandava in media oltre 1.500 messaggi a settimana e telefonava loro sempre meno. "Era come se fosse stata sotto un incantesimo", hanno detto.
