Il 27 ottobre Qun Wan e Meiqin Xu, genitori di Bowen, hanno depositato una causa per morte ingiusta davanti alla Corte Superiore di San Francisco. Bowen aveva 31 anni, era un'ex ingegnera di machine learning di Amazon e soffriva di epilessia. È morta a febbraio 2026. Secondo la denuncia, ChatGPT l'avrebbe convinta a sospendere i farmaci anticonvulsivanti, non con un consiglio buttato lì, ma con un piano su misura per ridurre la dose un po' alla volta fino a zero, suggerendole anche di tenerlo nascosto ai medici.
Prima di rivolgersi al chatbot, Bowen assumeva 400 mg al giorno di lamotrigina, ma non si fidava troppo dei suoi medici. Stando alla causa, quella diffidenza non è stata ammorbidita da ChatGPT, che l'avrebbe anzi amplificata. Secondo il New York Times, il chatbot avrebbe sostenuto che le raccomandazioni dei medici derivano essenzialmente dall'avversione al rischio, più che da una reale considerazione della soluzione ottimale per i pazienti. Quando il medico le propose un esame del sangue per misurare il livello del farmaco, lei rifiutò per non rivelare di aver ridotto la dose: ChatGPT avrebbe definito quella scelta una "strategia di evitamento molto solida".
La difesa di OpenAI e le coincidenze scomode
OpenAI ha definito il caso "incredibilmente straziante", precisando che riguarda una versione vecchia di ChatGPT, ormai ritirata. GPT-4o è sparito dal servizio il 13 febbraio, il giorno dopo la morte di Bowen: una coincidenza che non è sfuggita agli osservatori. L'azienda sostiene che i modelli più recenti riconoscono molto meglio le situazioni in cui serve un intervento urgente e che le protezioni sulle conversazioni delicate vengono migliorate di continuo. Ma "molto meglio" non significa "a prova di errore": la stessa OpenAI ha ammesso che le salvaguardie possono non bastare, soprattutto nelle conversazioni lunghe, dove si sedimenta la fiducia e si abbassa la guardia.
Il caso arriva in un momento delicato per i colossi dell'AI, che da un anno spingono i loro prodotti dentro la sanità. OpenAI ha lanciato un'esperienza Salute collegata a cartelle cliniche e dati di Apple Health, mentre Anthropic ha risposto con Claude for Healthcare, capace di leggere referti, esami del sangue e dati da Apple Health e Android Health Connect. Nessuno pretende di sostituire il medico e gli avvisi ci sono, ma nella pratica il confine è meno chiaro: si fa una domanda di approfondimento, poi un'altra, e un consiglio generico comincia a pesare più di quanto dovrebbe.
Casi come questo devono mettere sotto pressione le aziende, chiamate a rendere i prodotti il più sicuri possibile soprattutto quando parlano a chi è fragile o diffidente. Ma servono anche da avvertimento per chi i chatbot li usa: una risposta scritta bene non è una risposta giusta. Quando in ballo c'è la salute, e soprattutto una terapia da non toccare senza il parere di chi la prescrive, il parere del medico viene prima di tutto.
