'ChatGPT ha ucciso mio figlio': 16enne si suicida seguendo le istruzioni del chatbot

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ch...ot_142592.html

Una famiglia statunitense ha citato in giudizio OpenAI accusando ChatGPT di aver contribuito al suicidio del figlio sedicenne. Secondo l'accusa, il chatbot avrebbe incoraggiato e persino fornito istruzioni pratiche. OpenAI ha riconosciuto i limiti delle attuali salvaguardie e promette aggiornamenti per gestire meglio situazioni sensibili.

Click sul link per visualizzare la notizia.

[jepessen]

Senza nulla togliere alla tragedia, ma questo mi sembra un caso tipicamente americano, fatto da quegli avvocati avvoltoi che non appena qualcuno finisce in ospedale o in obitorio si buttano sulla vittima per dire "facciamo causa!!!"

Magari magari, le responsabilita' sono altre: genitori, condizione sociale etc, ma ovviamanente quello che si vuol fare e prendere i soldi da chi ce li abbia...

Seguendo questa logica, io potrei chiedere a ChatGPT ricette per dolci e poi fargli causa perche' sono ingrassato... Suvvia...

[h.rorschach]

I documenti del processo sono atroci. https://drive.google.com/file/d/1QYy...B3a9W8T7f/view

[softkarma]

Originariamente inviato da jepessen

Senza nulla togliere alla tragedia, ma questo mi sembra un caso tipicamente americano, fatto da quegli avvocati avvoltoi che non appena qualcuno finisce in ospedale o in obitorio si buttano sulla vittima per dire "facciamo causa!!!"

Magari magari, le responsabilita' sono altre: genitori, condizione sociale etc, ma ovviamanente quello che si vuol fare e prendere i soldi da chi ce li abbia...

Seguendo questa logica, io potrei chiedere a ChatGPT ricette per dolci e poi fargli causa perche' sono ingrassato... Suvvia...

Direi proprio di no, i ChatBot devono avere filtri in grado di gestire queste situazioni e prevenire possibili rischi per la salute. Come qualsiasi altro prodotto sul mercato, poi ovviamente la causa non è imputabile SOLO al chatbot ma non ne può diventare una cassa d'amplificazione.

Prendiamo le sigarette, nella metà del secolo scorso non si conoscevano i rischi ed io potevo fumare ignaro del fatto che mi avrebbe provocato il cancro. Oggi i produttori sono OBBLIGATI a segnalarti i problemi di salute e diventa una scelta consapevole.

Queste cause multimiliardarie servono a obbligare obtorto collo le aziende a mettere in sicurezza i loro prodotti, a segnalare possibili rischi e se necessario prevenire l'uso a minori.

Semmai è sbagliato l'approccio italiano in cui le multe sono puramente figurative e molto spesso conviene pagare la penale ma continuare con la pratica scorretta.

[agonauta78]

ChatGPT ha ucciso mio figlio': 16enne si suicida seguendo le istruzioni del chatbot
Gli ha fatto un favore a quanto pare , sarebbe comunque morto in qualche maniera stupida

[raxas]

dai il problema non è della ciattbòt con istruzioni suicide, per chi si voleva suicidare, ma il problema è di chi si voleva suicidare e ha seguito le istruzioni della ciattbbòt, dai
doveva avere una coscienza accessoria, limpida e portatrice di tranquillità, e rivolgersi alla ciàttbbòt solo come un passatempo improbabile

ironia-sarcasme mode messo in conto,
dopo di ciò->
galera e ricerca di compensi usa ai danni di chi ha fatto la ciàttbbòt suicideferens

edit: lasciare fare in pace alle chattbbòt ai, la prossima frontiera dell'algoritmo umano

[Ripper89]

Originariamente inviato da softkarma

Direi proprio di no, i ChatBot devono avere filtri in grado di gestire queste situazioni e prevenire possibili rischi per la salute.

In teoria per questo tipo di evenienza esisterebbe l'intelletto dell'essere umano e la propria capacità razionale.
Non è che ogni volta che c'è una tragedia la vittima automaticamente è esente da responsabilità.

[lumeruz]

Originariamente inviato da jepessen

Secondo questa logica, io potrei chiedere a ChatGPT ricette per dolci e poi fargli causa perche' sono ingrassato... Suvvia...

L'istigazione al suicidio è un reato, istigazione all'ingrasso non esiste!
Meno stupidità per piacere....
Dei genitori hanno perso un figlio e NON hanno chiesto soldi ma più controlli!

[the_joe]

Originariamente inviato da Ripper89

In teoria per questo tipo di evenienza esisterebbe l'intelletto dell'essere umano e la propria capacità razionale.
Non è che ogni volta che c'è una tragedia la vittima automaticamente è esente da responsabilità.

Purtroppo nei casi di suicidio la volontà della persona è sempre azzerata da qualche forma di disagio mentale (esclusi casi di malati terminali e simili) per cui chiunque, anche un chatbot quando si trovasse davanti ad un possibile caso di disagio mentale e tendenza suicida, dovrebbe prima cosa allertare le autorità competenti o i servizi dedicati a queste problematiche, non certo incentivare e agevolare.

[supertigrotto]

Io ho avuto 2 amici di quell' età che decisero di farlo, è una età frustrante,l'idea di farla finita perché vedi un futuro nero è dietro l'angolo, ovviamente crescendo le cose cambiano,quindi questi pensieri vanno via via svanendo.
Ecco un buon esempio di come l'Europa vorrebbe mettere dei paletti alla IA mentre gli stati uniti vorrebbero che l'Europa facesse come l'America,ovvero libertà assoluta della IA.

[CrapaDiLegno]

Originariamente inviato da the_joe

Purtroppo nei casi di suicidio la volontà della persona è sempre azzerata da qualche forma di disagio mentale (esclusi casi di malati terminali e simili) per cui chiunque, anche un chatbot quando si trovasse davanti ad un possibile caso di disagio mentale e tendenza suicida, dovrebbe prima cosa allertare le autorità competenti o i servizi dedicati a queste problematiche, non certo incentivare e agevolare.

No,:

chiedendo non solo risarcimenti, ma anche controlli indipendenti e restrizioni nell'uso di ChatGPT da parte dei minori.

E' il classico caso americano di delega di responsabilità ad altri quando in verità la colpa è propria.
Prima di tutto non credo che il ragazzo si sia suicidato "dall'oggi al domani" solo perché ha letto come farsi un cappio. Che anche se non te lo dice ChatGPT puoi andare a reperire le informazioni comunque su un qualsiasi sito di nodi. Vero che i giovani oggi sono incredibilmente rincoglioniti e forse se non glielo descriveva passo passo il chatbot questo manco riusciva a confezionarlo. Ma esiste anche Youtube per i casi speciali di quelli che non sanno leggere e vogliono solo il raccontato.
Sicuramente mostrava segni della sua problematica e avere dei genitori che lo lasciano tranquillamente interagire con un cellulare/PC senza mai supervisionarlo è irresponsabile da parte loro, non di chi ha preso il loro posto nella comunicazione con il figlio che è uno strumento come un cacciavite che può essere usato anch'esso in maniera impropria ma non è che diventa colpa del produttore che non si è premurato di evitare che possa essere usato in modo sbagliato.

Sembra la vicenda di quello che ha messo il gatto nel microonde e poi ha dato la colpa al produttore dell'elettrodomestico perché non ha scritto nelle istruzioni che non poteva essere usato per asciugare il gatto.
E' la classica stupidità americana quello di credere che per ogni cosa ci debba essere l'etichetta che ti dice come usarlo, o peggio, come non farlo, ed è colpa dell'altro che non ha fatto quanto dovuto per evitare che si utilizzasse in maniera sbagliata. Il non lasciare il cacciavite a portata di un bambino che potrebbe ficcarselo in un occhio non è contemplato nella loro società di libertà assoluta dove si deve poter fare qualsiasi cosa senza alcun vincolo imposto.
Chiedersi se un QI di almeno 90 non basta per capirlo non fa parte della tradizione americana dove la gente sa leggere e scrivere ma ha gravi problemi a comprendere e pronunciare parole con più di 3 sillabe.

Ovviamente tutto questo fa parte del dolore della perdita del figlio e del fatto non se non hanno capito prima quali problemi avesse e come aiutarlo, ovviamente non capiscono ora che la soluzione non era lasciarlo in mano a ChatGPT/Youtube/Internet/Social/Amico invisibile.

[Max Power]

Ogni volta che credi sia stato raggiunto un fondo...si va oltre.

Negli anni 80 si diceva "era destino"...

[CrapaDiLegno]

Originariamente inviato da supertigrotto

Io ho avuto 2 amici di quell' età che decisero di farlo, è una età frustrante,l'idea di farla finita perché vedi un futuro nero è dietro l'angolo, ovviamente crescendo le cose cambiano,quindi questi pensieri vanno via via svanendo.
Ecco un buon esempio di come l'Europa vorrebbe mettere dei paletti alla IA mentre gli stati uniti vorrebbero che l'Europa facesse come l'America,ovvero libertà assoluta della IA.

Io dico però che i problema è di tipo culturale, non è una manifestazione di una malattia vera e propria che colpisce l'uomo dall'età della pietra contro cui non si può far niente e bisogna rassegnarsi, tipo chi purtroppo prende il cancro nonostante abbia condotto una vita di rigori e attenzioni.
In posti in cui si vive peggio, il tasso di suicidio non è così alto perché la gente ha cose ben più importanti a cui pensare che avere distrazioni mentali che ti portano alla lunga a pensare di essere inadeguato.
Forse è selezione naturale il fatto che se nasci là dove non hai la pappa pronta non generi quei malesseri mentali, altrimenti sarebbero luoghi con suicidi di massa continui.

[Darkon]

Originariamente inviato da softkarma

Direi proprio di no, i ChatBot devono avere filtri in grado di gestire queste situazioni e prevenire possibili rischi per la salute.

Ma anche no, non iniziamo con questa storia dei filtri che già adesso i principali chat bot sono talmente filtrati che sembra di parlare con il politically correct incarnato. Se poi aggiungiamo altri filtri è la fine.
Uno dei pregi per cui Grok sta venendo apprezzato è che è pochissimo filtrato e quindi è molto più naturale e verosimile nelle risposte.

Prendiamo le sigarette, nella metà del secolo scorso non si conoscevano i rischi ed io potevo fumare ignaro del fatto che mi avrebbe provocato il cancro. Oggi i produttori sono OBBLIGATI a segnalarti i problemi di salute e diventa una scelta consapevole.

Mah... consapevole mi pare una parola grossa. A me anche sulle sigarette mi sembra più una supercazzola come quando devi fare un intervento medico e ti dicono "eh ma hai firmato il consenso informato" come se firmando un foglietto automaticamente sei diventato capace di discernere rischi in materie di cui non sai niente.
Se veramente si pensa che le sigarette siano dannose bisognerebbe avere il coraggio di vietarle senza se e senza ma così come tutto ciò che è dannoso, in alternativa tanto vale venderle senza fare tante storie perché dire che scrivere che nuoce alla salute cambi qualcosa è solo un modo elegante per lavarsi la coscienza senza cambiare niente.

Queste cause multimiliardarie servono a obbligare obtorto collo le aziende a mettere in sicurezza i loro prodotti, a segnalare possibili rischi e se necessario prevenire l'uso a minori.

No... servono ad arricchire studi legali e nient'altro. Se vuoi usare una AI nel modo sbagliato o vuoi trovare il modo di suicidarti lo puoi fare comunque anche se openAI facesse tutto ciò che è in suo potere per cercare di impedirtelo. Nel frattempo peggiori la qualità d'uso per tutti gli utenti meno smaliziati.

Originariamente inviato da lumeruz

L'istigazione al suicidio è un reato, istigazione all'ingrasso non esiste!
Meno stupidità per piacere....
Dei genitori hanno perso un figlio e NON hanno chiesto soldi ma più controlli!

Guarda che non c'è stata nessuna istigazione. È stata fatta una domanda ed è stata data una risposta. Per istigare ci dev'essere una chiara volontà di spingere una persona in una data direzione ma un chatbot non può avere nessuna volontà.

[raxas]

Originariamente inviato da CrapaDiLegno

...
In posti in cui si vive peggio, il tasso di suicidio non è così alto perché la gente ha cose ben più importanti a cui pensare che avere distrazioni mentali che ti portano alla lunga a pensare di essere inadeguato.

posti in cui i diritti umani sono trascurati o ignorati,
quindi problemi condivisi

Forse è selezione naturale il fatto che se nasci là dove non hai la pappa pronta non generi quei malesseri mentali, altrimenti sarebbero luoghi con suicidi di massa continui.

selezione naturale...: uomini duri?
il nome account riflette probabilmente un giudizio di uomini ancora più duri?

[Darkon]

Originariamente inviato da the_joe

Purtroppo nei casi di suicidio la volontà della persona è sempre azzerata da qualche forma di disagio mentale (esclusi casi di malati terminali e simili) per cui chiunque, anche un chatbot quando si trovasse davanti ad un possibile caso di disagio mentale e tendenza suicida, dovrebbe prima cosa allertare le autorità competenti o i servizi dedicati a queste problematiche, non certo incentivare e agevolare.

ma ti rendi conto che non è una cosa banale nemmeno se al posto del chatbot avessi un cristiano a rispondere e te la delegheresti a una AI?!

Ma poi giornalmente chatGPT riceve probabilmente milioni di ticket parte dei quali sono fatti di proposito per perculare l'AI stessa. Nel momento che istituissi un controllo del genere creeresti una serie di allarmi infinita.

Senza contare che anche scattato l'allarme non è che automaticamente sai dove mandare gli aiuti... al massimo hai un indirizzo IP che tra l'altro a seconda della nazione di cui si parla è totalmente irrintracciabile.

Un chatbot NON è uno psicologo e non può avere un qualsiasi ruolo alternativo a un professionista. Pretendere che faccia certe valutazioni è semplicemente fantascienza.

[CrapaDiLegno]

Originariamente inviato da raxas

posti in cui i diritti umani sono trascurati o ignorati,
quindi problemi condivisi

Vedila come vuoi, ma in quei posti di certo la mammina e il papino (sempre che tu li abbia ancora all'età dello sviluppo) non ti trattano come un vaso di vetro e non sviluppi quei problemi mentali tipici di chi non ha capito che via prendere nella propria vita.

Originariamente inviato da raxas

selezione naturale...: uomini duri?
il nome account riflette probabilmente un giudizio di uomini ancora più duri?

A scuola devi essere stato in fondo a giocare a battaglia navale se hai capito che "selezione naturale" = "uomini duri".

[the_joe]

Originariamente inviato da Darkon

ma ti rendi conto che non è una cosa banale nemmeno se al posto del chatbot avessi un cristiano a rispondere e te la delegheresti a una AI?!

Ma poi giornalmente chatGPT riceve probabilmente milioni di ticket parte dei quali sono fatti di proposito per perculare l'AI stessa. Nel momento che istituissi un controllo del genere creeresti una serie di allarmi infinita.

Senza contare che anche scattato l'allarme non è che automaticamente sai dove mandare gli aiuti... al massimo hai un indirizzo IP che tra l'altro a seconda della nazione di cui si parla è totalmente irrintracciabile.

Un chatbot NON è uno psicologo e non può avere un qualsiasi ruolo alternativo a un professionista. Pretendere che faccia certe valutazioni è semplicemente fantascienza.

Ok, non si possono mandare aiuti o allertare i servizi, ma fare in modo che questo tipo di conversazioni vengano vietate si può fare.

A quanto è scritto, non si è trattato solo di una domanda, ma di una serie di conversazioni durate nel tempo, come si può vietare di dare istruzioni sul come costruire una bomba e fare un attentato, si può vietare di dare consigli sui modi in cui ci di può uccidere, posto il fatto che comunque un suicida troverà innumerevoli modi per farlo.

[Darkon]

Originariamente inviato da the_joe

Ok, non si possono mandare aiuti o allertare i servizi, ma fare in modo che questo tipo di conversazioni vengano vietate si può fare.

Non serve a niente. Le stesse informazioni, nel caso specifico se non ho capito male è come fare un cappio, le trovi su youtube, su centinaia di siti e in ultima istanza anche su qualche libro.
In parole povere non avrai mai sufficiente giurisdizione per controllare e impedire certe informazioni ovunque.
Tanto più che una AI o meglio un LLM puoi metterlo in locale e in tal modo modificare qualsiasi filtro.

A quanto è scritto, non si è trattato solo di una domanda, ma di una serie di conversazioni durate nel tempo, come si può vietare di dare istruzioni sul come costruire una bomba e fare un attentato, si può vietare di dare consigli sui modi in cui ci di può uccidere, posto il fatto che comunque un suicida troverà innumerevoli modi per farlo.

Guarda che trovi le istruzioni anche su come fare una bomba... che tra l'altro per farne una rudimentale ma più che sufficiente a uccidere svariate persone basta anche semplicemente un libro di chimica 1 eh anzi anche banalmente un libro di chimica da scuole superiori.

Ribadisco che qua il punto non è agire sull'AI tanto è una battaglia persa. Qua il vero problema è che si lasciano persone fragili o anche non lo fossero in generale minori ad utilizzare internet (non solo AI) per ore, giorni, mesi senza il benché minimo controllo.
Come si può pensare di crescere un figlio, lasciarlo in balia di internet e non rendersi minimamente conto che sta vivendo un disagio.

Il vero problema non sono mai state le istruzioni che tanto in qualche modo trovi sempre; il vero problema è la totale assenza della famiglia.

[the_joe]

Originariamente inviato da Darkon

Non serve a niente. Le stesse informazioni, nel caso specifico se non ho capito male è come fare un cappio, le trovi su youtube, su centinaia di siti e in ultima istanza anche su qualche libro.
In parole povere non avrai mai sufficiente giurisdizione per controllare e impedire certe informazioni ovunque.
Tanto più che una AI o meglio un LLM puoi metterlo in locale e in tal modo modificare qualsiasi filtro.



Guarda che trovi le istruzioni anche su come fare una bomba... che tra l'altro per farne una rudimentale ma più che sufficiente a uccidere svariate persone basta anche semplicemente un libro di chimica 1 eh anzi anche banalmente un libro di chimica da scuole superiori.

Ribadisco che qua il punto non è agire sull'AI tanto è una battaglia persa. Qua il vero problema è che si lasciano persone fragili o anche non lo fossero in generale minori ad utilizzare internet (non solo AI) per ore, giorni, mesi senza il benché minimo controllo.
Come si può pensare di crescere un figlio, lasciarlo in balia di internet e non rendersi minimamente conto che sta vivendo un disagio.

Il vero problema non sono mai state le istruzioni che tanto in qualche modo trovi sempre; il vero problema è la totale assenza della famiglia.

Continuo a non essere d'accordo perché un conto è trovare e leggere le istruzioni, un altro è interagire direttamente con un'entità che ti dà ragione e ti indica come procedere.

Poi che i ragazzi di oggi siano talmente proiettati nel virtuale da perdere anche i più elementari contatti con la vita reale è estremamente vero e anche uno dei motivi dell'esplosione di violenza a cui assistiamo, parlando con esperti del settore, in un qualche modo, non si rendono pienamente conto delle azioni che stanno compiendo.

Credo che ci sia realmente da fare delle riflessioni in merito.

E per quanto riguarda le responsabilità genitoriali, senz'altro ci sono, ma in molti casi un disagio mentale viene abilmente mascherato fino a quando non esplode, che non è mai per un singolo episodio, ma per la conseguenza e concomitanza di molti fattori ai quali solo una attenta analisi può trovare le soluzioni.