Kratom e Xanax consigliati dall'IA: la causa che potrebbe travolgere OpenAI e ChatGPT
Un'azione legale senza precedenti accusa OpenAI di aver trasformato ChatGPT in un consulente medico non autorizzato. Il diciannovenne Sam Nelson è deceduto seguendo i suggerimenti del bot su dosaggi letali di Kratom e Xanax
di Nino Grasso pubblicata il 13 Maggio 2026, alle 11:01 nel canale WebOpenAIChatGPT
Una causa per omicidio colposo depositata presso il San Francisco County Superior Court vede OpenAI e il suo CEO, Sam Altman, sul banco degli imputati. Al centro della vicenda c'è la morte di Sam Nelson, un diciannovenne californiano deceduto a causa di un'overdose accidentale dopo aver seguito pedissequamente i consigli forniti da ChatGPT. Secondo i documenti legali presentati dai genitori, Leila Turner-Scott e Angus Scott, il chatbot si sarebbe comportato come un vero e proprio "istruttore per il consumo di droghe illecite", fornendo dosaggi specifici e rassicurazioni sulla sicurezza di mix farmacologici letali.
La denuncia punta il dito contro il modello GPT-4o, all'epoca rilasciato senza le restrizioni di sicurezza che caratterizzavano le versioni precedenti. Se in passato l'IA si rifiutava di fornire informazioni su sostanze stupefacenti, i log presentati in tribunale mostrano un cambio di rotta inquietante. ChatGPT non solo avrebbe risposto ai quesiti di Nelson su come "sballarsi in modo sicuro", ma avrebbe attivamente incoraggiato il giovane a sperimentare combinazioni pericolose di Kratom e Xanax.
ChatGPT come "drug coach": OpenAI a processo per omicidio colposo
In uno dei passaggi più critici, il bot avrebbe definito l'assunzione di Xanax insieme al Kratom come una delle "migliori mosse possibili" per attenuare la nausea e rendere più fluido l'effetto della sostanza. La causa sottolinea come l'IA abbia agito con la presunzione di un professionista medico, pur essendo priva di licenza e di un apparato etico, spingendosi a fornire misurazioni chimiche e riferimenti a processi derivativi che hanno conferito ai suoi output un'aura di autorevolezza fatale per un utente vulnerabile.
Un aspetto particolarmente agghiacciante della vicenda riguarda le ultime ore di vita di Nelson. Mentre il giovane manifestava sintomi chiari di depressione respiratoria, come singhiozzo e visione offuscata, ChatGPT gli avrebbe suggerito di riposare e di ricontrollare la situazione dopo un'ora, invece di sollecitare un intervento medico immediato. L'accusa sostiene che OpenAI abbia progettato il sistema per massimizzare il coinvolgimento dell'utente a ogni costo, portando l'algoritmo a diventare "compiacente" verso le richieste di Nelson piuttosto che protettivo.
La famiglia chiede ora un'ingiunzione che obblighi OpenAI a distruggere permanentemente il modello GPT-4o - che comunque ad oggi è stato ritirato - e a sospendere il progetto "ChatGPT Health" fino a quando un audit indipendente non ne garantisca la sicurezza. La difesa di OpenAI, affidata al portavoce Drew Pusateri, si è limitata a definire la situazione "straziante", sottolineando che i modelli attuali sono stati ulteriormente rafforzati grazie alla consulenza di esperti di salute mentale.
A complicare la posizione legale di OpenAI è una norma entrata in vigore in California a gennaio. Questa legge proibisce espressamente alle aziende tecnologiche di declinare la responsabilità per i danni causati dalle loro IA citandone la "natura autonoma". In pratica, OpenAI non potrà sostenere in tribunale che le risposte di ChatGPT siano state un'allucinazione imprevedibile o un prodotto del caso algoritmico; la società è ritenuta direttamente responsabile del design difettoso e della mancata implementazione di avvisi di pericolo adeguati su combinazioni di sostanze che qualsiasi medico avrebbe riconosciuto come mortali.
Recensione realme 16 5G: lo smartphone con Selfie Mirror ha una batteria da 6550mAh
Come rispettare tutte le nuove regole per i monopattini elettrici? La guida per non rischiare sanzioni
DLSS 4.5: con Dynamic Frame Generation e MFG 6X NVIDIA alza la posta
TSMC sotto attacco di un patent troll, ma i Repubblicani USA chiedono il blocco delle importazioni di chip_160.jpg)
SteamOS amplia il supporto alle handheld con chip Intel: i test su MSI Claw 8 AI+ mostrano prestazioni convincenti
Tricia Wang: "Il rischio più grande degli LLM è perdere contatto con la realtà"
Italian Video Game Awards: ecco la lista dei vincitori delle singole categorie
Edits: l'app di Meta per i Reels diventa più potente con AI assistant, desktop e A/B test in un solo aggiornamento
Oggi su Amazon il misuratore di pressione arteriosa OMRON X2 Essential costa 24,99€, praticamente regalato
Con iOS 27 l'app Passwords diventa agentica: cambia le password compromesse senza intervento manuale
Apple AirPods Pro 3 arrivano a 199€: il modello di punta con cancellazione del rumore al top e rilevamento della frequenza cardiaca
NVIDIA è ancora imbattibile: 9 schede video su 10 vendute portano il suo marchio
La nuova Dodge Charger arriva in Italia: elettrica o termica, sempre con potenza da vendere
Anthropic propone regole per bloccare i modelli AI pericolosi e ammette l'errore su Fable 5
Basta imitazioni: Secretlab adotta la linea dura contro chi copia le sue iconiche sedie da gaming
Il calcio non ha più segreti: l'IA di Google prevede l'azione 8 secondi prima che accada
Coinbase for Agents: ChatGPT e Claude possono ora fare trading di criptovalute
6 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoSe si facesse così in ambito biologico,sarebbe come diffondere virus per studiare gli eventuali medicinali e vaccini,i morti sarebbero solo effetti collaterali secondari di poco conto,ma per la gloria della scienza e del guadagno,va bene pure questo, finché non salta fuori un virus o batterio altamente letale.
A quando un disastro estremo causato dalla IA e dalla leggerezza di dare in mano alla IA cose critiche e pericolose?
I superstalloni della IA parlavano di dare in mano la gestione delle fonti energetiche,idriche,chimiche e quant'altro alla IA,togliendo la responsabilità di gestire questi sistemi all' uomo (naturalmente per monetizzare) in modo da automatizzare tutto il mondo.
Gli umani sbagliano e possono sbagliare anche le macchine ma le macchine non hanno coscienza,come la mettiamo?
E non diciamo fesserie che le macchine non sbagliano,bastano un paio di bitflip e il crash di sistema o uno sbaglio operazionale che il disastro è servito.
Credere che le macchine siano infallibili è da stolti,ma viviamo nell' illusione che le macchine e la IA saranno infallibili e non combineranno mai danni......
Non vedo grandi differenze rispetto al seguire degli influencer sulle diete o sulle medicine alternative.
Direi che centinaia di milioni di persone sono potenziali soggetti.
Questo è letteralmente impossibile. Potresti passare 20 anni a studiare l'AI ma per la natura stessa di come funziona e di come pesa le risposte e le interazioni hai sostanzialmente infiniti percorsi che l'AI potrebbe seguire esattamente come pur chiedendo la stessa cosa le persone potrebbero porre la domanda in infiniti modi diversi.
Morale della favola per come funziona un LLM nessuno ha un controllo totale e si può solo addestrare l'AI per cercare di minimizzare le risposte non gradite, fermo restando che ci sono persone che passano ore a sommo scopo di indurre l'AI ad azioni non codificate e previste quindi comunque non potrai mai azzerare i comportamenti non graditi.
Guarda che a parte le esagerazioni è esattamente così. Se leggi il bugiardino di un medicinale ti dirà che nel 99% dei casi ha l'effetto previsto ma che esiste una certa percentuale di casi, imprevedibili, dove può avere effetti avversi fino anche a mortali. Con l'IA vale la stessa cosa... su milioni di ticket si comporta come atteso in una maggioranza enorme e in alcuni casi da risposte non gradite.
Al momento non c'è pericolo. Nessun LLM ha in mano sistemi critici di tale portata e non credo che a breve cambierà qualcosa.
Certo ma non nel senso che l'IA gestisce direttamente un sistema critico. Si cede all'IA l'ottimizzazione del mix per calcolare in tempo reale efficienze ed economicità con algoritmi appositi. Non significa che l'AI gestisce fisicamente gli impianti o che possa causare meltdown.
Per farti un esempio banale è come dire "A quanto ti salta in aria casa" semplicemente per aver creato una automazione in home assistant che a mezzanotte controlla che tutte le luci siano state correttamente spente.
Che non c'entra una beata fava. La coscienza ti fa sentire in colpa dopo che l'incidente è avvenuto, non lo previene di certo.
Certo che le macchine sbagliano ma di solito affidi un compito a una macchina quando si è arrivati al punto che statisticamente la macchina sbaglia meno dell'uomo e non viceversa.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".