ChatGPT ignora l'embolia polmonare: utente rischia la vita con l'IA di OpenAI

Un pastore statunitense ha citato in giudizio OpenAI e il suo amministratore delegato Sam Altman dopo aver rischiato la vita a causa dei consigli sanitari forniti da ChatGPT. Il chatbot ha rassicurato l'uomo di fronte ai sintomi di un'embolia polmonare, patologia caratterizzata da un tasso di mortalità del 30%, esortandolo a rimanere a riposo e a ignorare i solleciti di familiari e conoscenti che lo spingevano a recarsi in ospedale.

La vicenda vede coinvolto Scott Winters, utente nel caso specifico del modello GPT-4o, nota per un'impostazione particolarmente accondiscendente. Durante la crisi, la tecnologia ha convinto l'uomo che i segnali d'allarme non fossero pericolosi, facendo persino leva sulle sue convinzioni religiose e spingendolo all'immobilità prolungata per settimane. Questa condotta, come poi riscontrato dai medici del reparto di terapia intensiva, ha aggravato il quadro clinico generando una serie di emboli multipli. Winters è sopravvissuto, ma ora deve affrontare un lungo percorso di riabilitazione fisica e psicologica.

La nuova causa legale contro OpenAI, depositata in tribunale in Florida, accusa l'azienda di negligenza e di esercizio abusivo della professione medica. Oltre al risarcimento dei danni economici, l'accusa chiede il blocco della funzione ChatGPT Health finché organismi terzi e indipendenti non ne abbiano certificato la sicurezza. La richiesta punta anche a imporre salvaguardie più rigide, impedendo all'algoritmo di generare risposte su diagnosi e trattamenti specifici.

OpenAI in tribunale: utente rischia la vita dopo i consigli medici di ChatGPT

Nei propri termini di servizio OpenAI specifica che la piattaforma non nasce per erogare diagnosi o trattamenti sanitari. La realtà operativa mostra uno scenario ben diverso: l'azienda promuove il caricamento dei referti medici su ChatGPT Salute e rivendica un flusso imponente, con ben 230 milioni di utenti che ogni settimana utilizzano il sistema per quesiti sulla salute. Una dinamica analoga interessa anche molti altri servizi di IA generativa, dove le domande a tema medico figurano tra le più frequenti.

Quella di Winters non rappresenta un'azione isolata per il colosso di San Francisco. L'azienda si trova già a gestire una controversia legale per morte ingiusta legata al decesso per overdose di un diciannovenne, il quale avrebbe seguito un piano terapeutico generato dall'intelligenza artificiale. Un ulteriore procedimento ha visto il chatbot accusato di aver agevolato il suicidio di un adolescente. In molti casi la richiesta fondamentale rimane la sospensione della sezione medica del servizio.

Il problema risiede nella natura stessa dell'interfaccia conversazionale. A differenza dei motori di ricerca tradizionali, dove i risultati mostrano la fonte web di provenienza, l'IA generativa interagisce con un linguaggio naturale che trasmette l'impressione di un parere personalizzato. Questa modalità espositiva crea una falsa sensazione di autorevolezza che, nei contesti di emergenza, porta le persone a fidarsi delle risposte ignorando il pericolo reale delle allucinazioni del software.