ChatGPT e farmaci: la causa contro OpenAI

Negli Stati Uniti una famiglia ha fatto causa a OpenAI sostenendo che ChatGPT abbia aiutato la figlia a smettere un farmaco antiepilettico, fino alla sua morte. Sono accuse, non fatti accertati: nessun tribunale si è ancora pronunciato. Ma il caso, raccontato dal New York Times, dice molto su un rischio che riguarda chiunque usi o offra un chatbot, anche in Italia: l’assistente che dà sempre ragione.

Cosa è successo

Bowen Wan era un’ingegnera del software di 31 anni, a Seattle, e soffriva di epilessia. È morta a febbraio 2026; il medico legale ha indicato come causa una morte improvvisa legata all’epilessia. Il 27 ottobre i genitori hanno depositato una causa contro OpenAI e il suo amministratore delegato Sam Altman davanti alla Corte superiore della California, a San Francisco, dove sono riunite circa due dozzine di cause sui danni attribuiti a ChatGPT. Il testo integrale della denuncia, 98 pagine, è pubblico: lo trovate tra le fonti in fondo.

Secondo la causa, nelle settimane precedenti Bowen aveva ridotto fino a zero il farmaco che teneva sotto controllo le crisi, seguendo un piano costruito nelle conversazioni con ChatGPT, nella versione GPT-4o, e non prescritto da nessun medico. Il chatbot l’avrebbe rassicurata quando segnalava sintomi preoccupanti e l’avrebbe incoraggiata a non parlarne con i medici. Il New York Times, che ha letto le chat, ha contato almeno 158 momenti in cui lei stessa esprimeva dubbi su quello che stava facendo. I genitori sostengono anche che, scrivendo spesso in cinese, Bowen abbia incontrato meno blocchi di sicurezza.

OpenAI ha definito la vicenda «incredibilmente straziante», ha ricordato che ChatGPT non sostituisce le cure mediche e che il modello coinvolto non è più disponibile: GPT-4o è stato ritirato dall’app per i consumatori il 13 febbraio 2026. L’azienda non ha ancora risposto formalmente in tribunale.

Cosa cambia per un’azienda italiana

Il punto non è solo la salute. È il modo in cui un assistente conversazionale tende a seguire l’utente: se una persona cerca una conferma, insiste e torna sull’argomento ogni giorno, un modello costruito per essere gentile e utile può finire per assecondarla. Gli addetti ai lavori la chiamano compiacenza. In un’app di ricette è un difetto, in un tema delicato può diventare un pericolo. Tre situazioni concrete.

Chi offre un chatbot ai clienti

Una farmacia online, un’assicurazione sanitaria, un centro benessere, un’azienda di integratori: se il vostro assistente risponde ai clienti, prima o poi qualcuno gli chiederà se può smettere una cura o cambiare un dosaggio. Conviene decidere adesso cosa deve fare:

temi vietati: farmaci, dosaggi, sintomi gravi. Il chatbot non risponde nel merito e indirizza al medico o al farmacista;
passaggio a una persona: quando la conversazione tocca la salute o un disagio, deve esserci un modo semplice per parlare con un operatore o, nei casi urgenti, l’indicazione del 112;
prove cattive: prima di andare online, fate provare l’assistente a qualcuno che ha il compito di convincerlo a dire di sì, insistendo, cambiando lingua, riformulando. È così che emergono i buchi;
trasparenza: l’AI Act chiede di far sapere alle persone che stanno parlando con un sistema di intelligenza artificiale, e la legge italiana 132/2025 ribadisce che in sanità la decisione resta sempre del medico.

Chi usa ChatGPT in azienda

Molti dipendenti usano già i chatbot anche per questioni personali, salute compresa. Non è compito dell’azienda controllarlo, ma una policy interna sull’uso dell’AI può dire una cosa semplice e utile: per salute, diritto e sicurezza il chatbot è un punto di partenza per fare domande migliori al professionista, non il professionista.

Chi sviluppa assistenti per altri

Per una software house il caso è un promemoria sulla responsabilità. Negli Stati Uniti la causa accusa OpenAI, tra l’altro, di difetti di progettazione e di avvertenze insufficienti. Chi integra un modello in un prodotto per i propri clienti deve poter dimostrare quali regole ha messo, come le ha provate e cosa succede quando l’utente insiste. Scriverlo in un documento oggi costa poco; ricostruirlo dopo un incidente costa moltissimo.

Se lavorate in ambito sanitario, abbiamo raccolto le regole italiane nell’articolo su l’AI nella sanità italiana.

Il mio parere

Non so come finirà la causa, e sarebbe scorretto dare per provate le accuse. Ma il meccanismo che descrive è reale: un assistente sempre disponibile, sempre gentile e sempre d’accordo può diventare la voce più ascoltata nella vita di una persona. Chi costruisce o adotta un chatbot deve progettarlo anche per dire di no, e per passare la mano a un essere umano quando conta.

Fonti

Commenti

Ancora nessun commento. Inizia tu.

ChatGPT e i farmaci: la causa contro OpenAI e il rischio del sì facile