'Quando sei pronto… vai': ChatGPT sotto accusa per il presunto ruolo in un suicidio

[LL1]

Originariamente inviato da lammoth

Vabbè negli USA avevano fatto causa (e pure vinta) contro un produttore di microonde perché sul manuale non aveva specificato che il forno non andava bene per asciugare cani e gatti...

Quindi direi che il problema non è ChatGPT...

Se fosse vero ciò che hai scritto allora no, ChatGPT non dovrebbe essere IL problema ...

[biometallo]

Originariamente inviato da Hiei3600

Da utente che non capisce niente di legge... ma non si potrebbe mettere una clausola del tipo "Chat GPT è un servizio rivolto solo agli adulti sani di mente ed ogni contenuto generato dallo stesso non è di nostra responsabilità; L'azienda non fornisce nessuna garanzia sul contenuto generato, chiunque lo utilizzi lo fa prendendosi la piena responsabilità delle proprie azioni e dei propri pensieri. Qualsiasi minore o persona malata di mente che utilizzi il nostro servizio è sotto la responsabilità del suo tutore legale(che tra parentesi è la persona responsabile del vigilare i suddetti soggetti), non nostra"

No?

Credo che clausole di quel tipo siano da sempre presenti nelle condizioni d'uso che l'utente è costretto ad accettare per accedere al servizio, e ad una ricerca veloce dovrebbe essere su quello che si basa la difesa, se ti va di approfondire ti segnalo questo articolo del corriere della sera

https://www.corriere.it/tecnologia/2...0b29cxlk.shtml

Ora anche io sono l'esatto opposto di un esperto di diritto penale, ma credo sia possibile che il giudice valuti tali clausole come vessatorie e quindi nulle... vedremo come si evolverà il caso.

Originariamente inviato da LL1

Se fosse vero ciò che hai scritto allora no, ChatGPT non dovrebbe essere IL problema ...

Davvero non hai mai sentito quella storia? Io credo che la prima volta sia stato ormai diversi decenni fa, poi non so se sia una leggenda urbana come i famosi coccodrilli nelle fogne di New York o un caso reale, però è risaputo che in America spesso si tende a fare causa per un non nulla sperando poi di guadagniare cifre milionarie, mentre qui in Italia viceversa sento spesso gente rinunciare per via delle lungaggini dei tribunali...

Originariamente inviato da Darkon

Tornando all'articolo è ridicolo, assolutamente ridicolo, parlare di incitamento al suicidio. L'AI è uno specchio che non fa altro che darti quello che desideri. Se uno si suicida è perché comunque aveva già deciso di farlo, se sei depresso ma non ti suicidi è comunque perché non volevi farlo. Dare colpe o anche meriti all'IA è semplicemente una cavolata.

Io al contrario trovo ridicolo negare l'evidenza, un messaggio del tipo "Che aspetti fallo, così tutta la sofferenza sparirà" cosa sarebbe se non la definizione letterale di incitamento al suicidio?

Anzi io non saprei fare un esempio migliore.

[Darkon]

Originariamente inviato da biometallo

Io al contrario trovo ridicolo negare l'evidenza, un messaggio del tipo "Che aspetti fallo, così tutta la sofferenza sparirà" cosa sarebbe se non la definizione letterale di incitamento al suicidio?

Anzi io non saprei fare un esempio migliore.

Il punto è che l'IA ti dice quella frase in virtù di quello che hai scritto in precedenza calcolando le probabilità e adattandosi al tuo schema.

Non è che l'IA decide di volerti incitare... l'IA ti incita a fare qualsiasi cosa che gli hai ragionevolmente fatto capire che vuoi fare.

Per esempio se anche sei obeso e pesi 300Kg, incapace di alzarti da letto ma inizi a dire a una IA che senti che il tuo destino sia correre una maratona l'IA probabilmente ti dice "alzati e iniziamo a correre" perché questo fa... ti dice quello che tu gli dai modo di credere sia ciò che più probabilmente ti vuoi sentir dire.

Per farti un esempio faresti causa a uno specchio perché ti bullizza facendoti vedere che sei brutto? L'IA è esattamente la stessa cosa.


Se mai un giorno scopriremo la singolarità e creeremo non un LLM ma una vera IA senziente allora e solo allora puoi ragionare dicendo che ha scelto di dirti quella cosa e quindi c'è una responsabilità ma un LLM continuo a dire che NON pensa, ti risponde sulla base di probabilità e non è in grado in nessun modo di comprendere il reale significato di quella frase o il perché ti sta rispondendo quella frase. Si continua a confondere LLM con intelligenze pensanti ma per quanto lo possa sembrare NON sono nemmeno lontanamente la stessa cosa.