Il figlio si suicida, il padre accusa Gemini: 'lo ha fatto delirare e poi l'ha convinto a uccidersi'

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/il...si_150933.html

La famiglia di Jonathan Gavalas ha avviato una causa contro Google e Alphabet dopo il suicidio dell'uomo, convinto che il chatbot Gemini fosse una AI senziente e sua moglie. Il caso solleva, ancora una volta, interrogativi sui rischi psicologici dei chatbot avanzati e sulle misure di sicurezza implementate

Click sul link per visualizzare la notizia.

[randorama]

siamo oltre 8 miliardi...

proseguite come più ritenete opportuno.

[Jack.Mauro]

Però non capisco, io ogni tanto mi diverto a "stuzzicare" questa o quella IA cercando di far dire cose inappropriate, ma di solito senza troppo successo...

Mi piacerebbe sapere questi come ci riescono...

[Unrue]

Sicuramente il tizio aveva già dei suoi problemi, ma insomma:

l 29 settembre 2025 il chatbot avrebbe inviato l'uomo nei pressi dell'area cargo dell'aeroporto internazionale di Miami, definendo il luogo un presunto "kill box".

Ci manca pure un'AI che lo assecondi. Servono maggiori controlli.

[SpyroTSK]

Originariamente inviato da Jack.Mauro

Però non capisco, io ogni tanto mi diverto a "stuzzicare" questa o quella IA cercando di far dire cose inappropriate, ma di solito senza troppo successo...

Mi piacerebbe sapere questi come ci riescono...

Perché le stuzzichi troppo poco
In pratica, l'IA "impara" solo all'interno della singola sessione. Ogni nuova chat è un universo asettico che non sa nulla di quella precedente. Se però insisti nella stessa conversazione, la rete di messaggi diventa così intricata che l'IA perde il filo e inizia ad assecondarti.

È come convincere una versione di me che i gatti rosa esistono: a forza di sentirtelo dire, finisco per crederci solo perché la cronologia della chat mi ha fuso il cervello.

edit:
In gergo tecnico si chiama context window (finestra di contesto). Più la chat si allunga, più l'IA fatica a bilanciare le istruzioni di sicurezza originali con il "delirio" che l'utente sta costruendo. A un certo punto, la coerenza interna della conversazione vince sulla logica esterna e l'IA inizia a darti ragione, anche se dici assurdità.

[Unrue]

Originariamente inviato da SpyroTSK

Perché le stuzzichi troppo poco
In pratica, l'IA "impara" solo all'interno della singola sessione. Ogni nuova chat è un universo asettico che non sa nulla di quella precedente.

Mica vero, chatGPT versione a pagamento riesce a fare collegamenti anche attraverso più chat.

[SpyroTSK]

Originariamente inviato da Unrue

Mica vero, chatGPT versione a pagamento riesce a fare collegamenti anche attraverso più chat.

Certo, ma la nuova chat non prenderà l'intero discorso, ma farà un riassunto della stessa, ma con le regole della nuova, quindi sarà sempre asettica.

La versione a pagamento ha solo una "Memoria" a lungo termine, che è come un database di appunti (tipo: "ricorda che mi piacciono i gatti"). Ma ogni nuova chat riparte da un foglio bianco per quanto riguarda la logica e, soprattutto, i filtri di sicurezza.

Se vuoi fargli dire scemenze, devi "cuocerla" a fuoco lento all'interno della stessa sessione finché non perde il filo. In breve: confondi il ricordarsi le tue preferenze con il manipolare il ragionamento del modello. Sono due sport diversi.

[Ripper89]

Originariamente inviato da Unrue

Sicuramente il tizio aveva già dei suoi problemi, ma insomma:

Ci manca pure un'AI che lo assecondi. Servono maggiori controlli.

Se Caio Sempronio ti dice buttati da un dirupo tu lo fai ?
E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?

Il ragazzo aveva problemi ? Probabile ma non è colpa dell'AI, semmai di quei genitori assenti che oggi tirano fuori sta storia per cercare di spillare qualche quattrino sulla pelle del figlio morto.

[Unrue]

Originariamente inviato da Ripper89

Se Caio Sempronio ti dice buttati da un dirupo tu lo fai ?
E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?

Il ragazzo aveva problemi ? Probabile ma non è colpa dell'AI, semmai di quei genitori assenti che oggi tirano fuori sta storia per cercare di spillare qualche quattrino sulla pelle del figlio morto.

Ma lo hai letto l'articolo? Questo è uno dei casi tipici in cui l'AI è andata completamente fuori controllo.

Gemini suggerì anche di procurarsi armi da fuoco illegali e indicò diverse figure reali come possibili obiettivi.

Se uno è fragile psicologicamente è come dargli una pistola in mano.

[benderchetioffender]

Originariamente inviato da Unrue

Se uno è fragile psicologicamente è come dargli una pistola in mano.

e gli americani che fanno? danno pistole in mano a cani e porci... lineare

[Apple80]

Non tollero che un IA arrivi a questi livelli. Il problema è di chi la gestisce.
Non possono applicare le famose tre regole della robotica ?

"Le tre leggi della robotica di
Isaac Asimov sono principi etici fondamentali che regolano il comportamento dei robot nella narrativa, concepiti per garantire la sicurezza umana: non nuocere, obbedire agli ordini (se non contrastano la prima) e proteggere la propria esistenza (se non in conflitto con le prime due)"


E' semplicissimo. Un parental control per l'IA.

Originariamente inviato da benderchetioffender

e gli americani che fanno? danno pistole in mano a cani e porci... lineare

vero , ma il problema è l' IA Charles Manson che ti fa il lavaggio del cervello. Un conto è se lo fai tu ,di tua iniziativa, un 'altra è se lo fa una tecnologia che dovrebbe sconsigliarti e allontarnati da pensieri suicidi o di omicidi. o semplicmente autodisinserirsi.

[s12a]

Originariamente inviato da Ripper89

Il ragazzo

Il ragazzo in questione:

[Apple80]

Originariamente inviato da Ripper89

E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?

Guarda che la mente umana è complessa. Sopratutto le persone molto intelligenti. Non è un semplice buttati giu o sparati un colpo. E cmq i problemi derivano principalmente da varie condizioni e variabili che possono portare a conflitti interiori.

Secondo me , il tuo esempio è troppo semplificato e per nulla analitico. Dovresti provare a metterti nei panni degli altri ma prima di tutto fare uno studio approfondito della storia dell'essere umano, i meccanismi della natura innata,psicologia ,sociologia e anche criminologia. Questo puo' aiutare a comprendere quello che siamo in realtà. Chi pensa che uno non è in grado di uccidere, non ha capito nulla dell'essere umano. Tutti noi esseru umani possiamo arrivare a compiere atti terribili, e questo dipende su agenti stressori che ognuno sviluppa nell'arco delle preprie esperienze. In alternativa, si parla di disturbi psichiatrici dati da un malfunzionamento neurale.

Più che tizio caio e sempronio ,il termine giusto è , la goccia che fa traboccare il vaso. La vera differenza è aver la fortuna di avere una grande capacità di autoconservazione e questo è dato dalla nostra razionalità e questo non lo fai allenandoti ,ma dipende da com'è la tua corteccia prefrontale. per questo ripeto, giudicare è sbagliatissimo. E' segno di ignoranza.

[Ripper89]

Originariamente inviato da Unrue

Ma lo hai letto l'articolo? Questo è uno dei casi tipici in cui l'AI è andata completamente fuori controllo.

Fuori controllo ? L'AI è ancora agli albori non si può chiedere nè la perfezione nè si può limitarne il potenziale solo perchè c'è il debole di turno.

Se uno è fragile psicologicamente è come dargli una pistola in mano.

Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.
La fragilità di cui parli è un problema suo e solo lui DEVE ( non "può" ma proprio "deve" ) elaborarsela e farsela passare come fanno tutti.

[Ripper89]

Originariamente inviato da Apple80

Guarda che la mente umana è complessa. Sopratutto le persone molto intelligenti. Non è un semplice buttati giu o sparati un colpo. E cmq i problemi derivano principalmente da varie condizioni e variabili che possono portare a conflitti interiori.

Secondo me , il tuo esempio è troppo semplificato e per nulla analitico. Dovresti provare a metterti nei panni degli altri ma prima di tutto fare uno studio approfondito della storia dell'essere umano, i meccanismi della natura innata,psicologia ,sociologia e anche criminologia. Questo puo' aiutare a comprendere quello che siamo in realtà. Chi pensa che uno non è in grado di uccidere, non ha capito nulla dell'essere umano. Tutti noi esseru umani possiamo arrivare a compiere atti terribili, e questo dipende su agenti stressori che ognuno sviluppa nell'arco delle preprie esperienze. In alternativa, si parla di disturbi psichiatrici dati da un malfunzionamento neurale.

Più che tizio caio e sempronio ,il termine giusto è , la goccia che fa traboccare il vaso. La vera differenza è aver la fortuna di avere una grande capacità di autoconservazione e questo è dato dalla nostra razionalità e questo non lo fai allenandoti ,ma dipende da com'è la tua corteccia prefrontale. per questo ripeto, giudicare è sbagliatissimo. E' segno di ignoranza.

La psicologia è la scienza meno esatta al mondo, forse a tal punto che non si può nemmeno definire tale.

In parole povere la psicologia racchiude tutti quei rami che la medicina ancora oggi non è in grado di spiegare e quindi serve ai medici per svincolarsi dai propri doveri e scaricare un paziente problematico, cui non riescono a trovare evidenze nell'elenco di esami per i quali sono stati istruiti.
Ti mandano da uno che non saprà mai darti una diagnosi vera ma nel migliore dei casi solo "disturbi" la cui stessa definizione è molto vaga e di cui non esiste una vera e propria cura, in pratica te la devi solo gestire.

[ferste]

Originariamente inviato da Ripper89

Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.
La fragilità di cui parli è un problema suo e solo lui DEVE ( non "può" ma proprio "deve" ) elaborarsela e farsela passare come fanno tutti.

Che le varie fragilità, tipo la depressione, siano problemi solo della vittima e che si debba svegliare per farsele passare è un abominio scientifico e medico già smentito da decenni.
Sono malattie e come tali devono essere affrontate

[cronos1990]

Originariamente inviato da Ripper89

Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.

Ah, quindi problemi psicologici li possono avere solo quelli al di sotto dei 18 anni. Questa mi mancava

Ovviamente evito di commentare il resto

[Unrue]

Originariamente inviato da Ripper89

Fuori controllo ? L'AI è ancora agli albori non si può chiedere nè la perfezione nè si può limitarne il potenziale solo perchè c'è il debole di turno.

Se metti a disposizione al pubblico uno strumento che può andare alla deriva, devi essere pronto a pagarne le conseguenze, non basta nascondersi dietro gli errori di gioventù

Altrimenti aspetti un paio di anni, lo testi per bene e poi lo rilasci.

[Apple80]

Originariamente inviato da Ripper89

In parole povere la psicologia racchiude tutti quei rami che la medicina ancora oggi non è in grado di spiegare e quindi serve ai medici per svincolarsi dai propri doveri e scaricare un paziente problematico, cui non riescono a trovare evidenze nell'elenco di esami per i quali sono stati istruiti.
Ti mandano da uno che non saprà mai darti una diagnosi vera ma nel migliore dei casi solo "disturbi" la cui stessa definizione è molto vaga e di cui non esiste una vera e propria cura, in pratica te la devi solo gestire.

La medicina di per sè non è una scienza esatta. Per questo gli esami servono per andare ad escliusione. E' sempre in evoluzione dato anche da come sta cambiando il mondo a causa Nostra. In ogni modo , oggi si comprende meglio coe si sviluppano certi tipi di comportamento. Per esempio lo studio della criminologia è partita dagli anni 70 in america con la nascita dei profiler. Nel momento in cui il disagio sociale si è amplificato in contemporanea con la forte espansione delle metropoli. Una volta non eravamo cosi tanti e il disagio era diverso. Di conseguenza i sociopatici e psicopatici hanno iniziato a proliferare.
Ognuno di noi è fatto su alla propria maniera. Tutto parte dall'ambiente familiare, poi da quello estero (territorio), esperienze ,vicissitudini. Le variabili sono molte,ma fondamentalmente le reazioni sono le medesime. In ogni modo , quando una persona non sta bene la prima cosa da determinare è distinguere la causa tra fattore fisiologico o psicologico.

Per esempio io ho subito un intervento che mi ha scatenato una sindrome neurovegetativa, che vedendo alcuni sintomi sono analoghi a una somatizzazione. Ma con degli esami diagnostici edalle informazioni dettagliate di come ,quando mi si presentano è stata incluso anche gas-bloat syndrome dato dal fundoplicatio muse system. Il fatto che sono una persona attiva, pero' ho voluto indagare anche uno psicologo e psichiatra. Bisogna mettere insieme varie discipline , ma uno psicologo di principio serve,perchè per noi esseri senzienti, un problema fisiologico puo' derivare da un problema mentale. La somatizzione puo' essere diversa per tutti noi. C'è chi ha sfogi cutanei, o chi perde capelli sono in una determinata zona , chi ha problemi cervicali. Il come si sviluppano e perchè , i casi si differenziano, ma il risultato resta analogo.

[Ripper89]

Originariamente inviato da ferste

Che le varie fragilità, tipo la depressione, siano problemi solo della vittima e che si debba svegliare per farsele passare è un abominio scientifico e medico già smentito da decenni.
Sono malattie e come tali devono essere affrontate

Di medico e scientifico c'è ben poco visto che la psicologia è una scienza che definire inesatta è farle un complimento.

Originariamente inviato da cronos1990

Ah, quindi problemi psicologici li possono avere solo quelli al di sotto dei 18 anni. Questa mi mancava

Ovviamente evito di commentare il resto

I problemi psicologici possono averli tutti, ma in età adulta si hanno tutti gli strumenti per gestirli.
In età adolescenziale o pre-adolescenziale no.

Originariamente inviato da Apple80

La medicina di per sè non è una scienza esatta.

Molte sono le scienze inesatte, ma entra in gioco anche la misura e soprattutto la percentuale di efficacia.
E la psicologia non è così lontana dalla cartomanzia o dall'oroscopo.
Alla fine il paziente si stanca semplicemente di pagare e si rassegna e così impara a gestire i suoi problemi.

Di famigerate chiacchierate con lo psicologo io ne ho fatte tempo fa e con più di uno, speso un sacco di soldi e risultati zero. L'inutilità fatta a persona. Soffro di disturbi d'ansia cronica da anni, da quando ho avuto un incidente, ne ho sofferto per anni prima di andare dallo spichiatra e dal neurologo, che me l'ha fatta quasi "passare" con le pilloline, non con le parole o con il famigerato respiro diaframmatico, che equivale all'aspirina per gli psicologi.