Link alla notizia: https://www.hwupgrade.it/news/web/il-figlio-si-suicida-il-padre-accusa-gemini-lo-ha-fatto-delirare-e-poi-l-ha-convinto-a-uccidersi_150933.html

La famiglia di Jonathan Gavalas ha avviato una causa contro Google e Alphabet dopo il suicidio dell'uomo, convinto che il chatbot Gemini fosse una AI senziente e sua moglie. Il caso solleva, ancora una volta, interrogativi sui rischi psicologici dei chatbot avanzati e sulle misure di sicurezza implementate

Click sul link per visualizzare la notizia.

siamo oltre 8 miliardi...

proseguite come più ritenete opportuno.

Però non capisco, io ogni tanto mi diverto a "stuzzicare" questa o quella IA cercando di far dire cose inappropriate, ma di solito senza troppo successo...

Mi piacerebbe sapere questi come ci riescono...

Sicuramente il tizio aveva già dei suoi problemi, ma insomma:

l 29 settembre 2025 il chatbot avrebbe inviato l'uomo nei pressi dell'area cargo dell'aeroporto internazionale di Miami, definendo il luogo un presunto "kill box".

Ci manca pure un'AI che lo assecondi. Servono maggiori controlli.

Però non capisco, io ogni tanto mi diverto a "stuzzicare" questa o quella IA cercando di far dire cose inappropriate, ma di solito senza troppo successo...

Mi piacerebbe sapere questi come ci riescono...

Perché le stuzzichi troppo poco :stordita:
In pratica, l'IA "impara" solo all'interno della singola sessione. Ogni nuova chat è un universo asettico che non sa nulla di quella precedente. Se però insisti nella stessa conversazione, la rete di messaggi diventa così intricata che l'IA perde il filo e inizia ad assecondarti.

È come convincere una versione di me che i gatti rosa esistono: a forza di sentirtelo dire, finisco per crederci solo perché la cronologia della chat mi ha fuso il cervello. :D

edit:
In gergo tecnico si chiama context window (finestra di contesto). Più la chat si allunga, più l'IA fatica a bilanciare le istruzioni di sicurezza originali con il "delirio" che l'utente sta costruendo. A un certo punto, la coerenza interna della conversazione vince sulla logica esterna e l'IA inizia a darti ragione, anche se dici assurdità.

Perché le stuzzichi troppo poco :stordita:
In pratica, l'IA "impara" solo all'interno della singola sessione. Ogni nuova chat è un universo asettico che non sa nulla di quella precedente.



Mica vero, chatGPT versione a pagamento riesce a fare collegamenti anche attraverso più chat.

Mica vero, chatGPT versione a pagamento riesce a fare collegamenti anche attraverso più chat.

Certo, ma la nuova chat non prenderà l'intero discorso, ma farà un riassunto della stessa, ma con le regole della nuova, quindi sarà sempre asettica.

La versione a pagamento ha solo una "Memoria" a lungo termine, che è come un database di appunti (tipo: "ricorda che mi piacciono i gatti"). Ma ogni nuova chat riparte da un foglio bianco per quanto riguarda la logica e, soprattutto, i filtri di sicurezza.

Se vuoi fargli dire scemenze, devi "cuocerla" a fuoco lento all'interno della stessa sessione finché non perde il filo. In breve: confondi il ricordarsi le tue preferenze con il manipolare il ragionamento del modello. Sono due sport diversi.

Sicuramente il tizio aveva già dei suoi problemi, ma insomma:

Ci manca pure un'AI che lo assecondi. Servono maggiori controlli.
Se Caio Sempronio ti dice buttati da un dirupo tu lo fai ?
E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?

Il ragazzo aveva problemi ? Probabile ma non è colpa dell'AI, semmai di quei genitori assenti che oggi tirano fuori sta storia per cercare di spillare qualche quattrino sulla pelle del figlio morto.

Se Caio Sempronio ti dice buttati da un dirupo tu lo fai ?
E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?

Il ragazzo aveva problemi ? Probabile ma non è colpa dell'AI, semmai di quei genitori assenti che oggi tirano fuori sta storia per cercare di spillare qualche quattrino sulla pelle del figlio morto.

Ma lo hai letto l'articolo? Questo è uno dei casi tipici in cui l'AI è andata completamente fuori controllo.


Gemini suggerì anche di procurarsi armi da fuoco illegali e indicò diverse figure reali come possibili obiettivi.

Se uno è fragile psicologicamente è come dargli una pistola in mano.

Se uno è fragile psicologicamente è come dargli una pistola in mano.

e gli americani che fanno? danno pistole in mano a cani e porci... lineare:doh:

Non tollero che un IA arrivi a questi livelli. Il problema è di chi la gestisce.
Non possono applicare le famose tre regole della robotica ?

"Le tre leggi della robotica di
Isaac Asimov sono principi etici fondamentali che regolano il comportamento dei robot nella narrativa, concepiti per garantire la sicurezza umana: non nuocere, obbedire agli ordini (se non contrastano la prima) e proteggere la propria esistenza (se non in conflitto con le prime due)"


E' semplicissimo. Un parental control per l'IA.

e gli americani che fanno? danno pistole in mano a cani e porci... lineare:doh:

vero , ma il problema è l' IA Charles Manson che ti fa il lavaggio del cervello. Un conto è se lo fai tu ,di tua iniziativa, un 'altra è se lo fa una tecnologia che dovrebbe sconsigliarti e allontarnati da pensieri suicidi o di omicidi. o semplicmente autodisinserirsi.

Il ragazzo

Il ragazzo in questione:

https://i.imgur.com/251pAu9l.png

E se lo fai di chi è la colpa ? Tua o di Caio Sempronio ?



Guarda che la mente umana è complessa. Sopratutto le persone molto intelligenti. Non è un semplice buttati giu o sparati un colpo. E cmq i problemi derivano principalmente da varie condizioni e variabili che possono portare a conflitti interiori.

Secondo me , il tuo esempio è troppo semplificato e per nulla analitico. Dovresti provare a metterti nei panni degli altri ma prima di tutto fare uno studio approfondito della storia dell'essere umano, i meccanismi della natura innata,psicologia ,sociologia e anche criminologia. Questo puo' aiutare a comprendere quello che siamo in realtà. Chi pensa che uno non è in grado di uccidere, non ha capito nulla dell'essere umano. Tutti noi esseru umani possiamo arrivare a compiere atti terribili, e questo dipende su agenti stressori che ognuno sviluppa nell'arco delle preprie esperienze. In alternativa, si parla di disturbi psichiatrici dati da un malfunzionamento neurale.

Più che tizio caio e sempronio ,il termine giusto è , la goccia che fa traboccare il vaso. La vera differenza è aver la fortuna di avere una grande capacità di autoconservazione e questo è dato dalla nostra razionalità e questo non lo fai allenandoti ,ma dipende da com'è la tua corteccia prefrontale. per questo ripeto, giudicare è sbagliatissimo. E' segno di ignoranza.

Ma lo hai letto l'articolo? Questo è uno dei casi tipici in cui l'AI è andata completamente fuori controllo.
Fuori controllo ? L'AI è ancora agli albori non si può chiedere nè la perfezione nè si può limitarne il potenziale solo perchè c'è il debole di turno.

Se uno è fragile psicologicamente è come dargli una pistola in mano.Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.
La fragilità di cui parli è un problema suo e solo lui DEVE ( non "può" ma proprio "deve" ) elaborarsela e farsela passare come fanno tutti.

Guarda che la mente umana è complessa. Sopratutto le persone molto intelligenti. Non è un semplice buttati giu o sparati un colpo. E cmq i problemi derivano principalmente da varie condizioni e variabili che possono portare a conflitti interiori.

Secondo me , il tuo esempio è troppo semplificato e per nulla analitico. Dovresti provare a metterti nei panni degli altri ma prima di tutto fare uno studio approfondito della storia dell'essere umano, i meccanismi della natura innata,psicologia ,sociologia e anche criminologia. Questo puo' aiutare a comprendere quello che siamo in realtà. Chi pensa che uno non è in grado di uccidere, non ha capito nulla dell'essere umano. Tutti noi esseru umani possiamo arrivare a compiere atti terribili, e questo dipende su agenti stressori che ognuno sviluppa nell'arco delle preprie esperienze. In alternativa, si parla di disturbi psichiatrici dati da un malfunzionamento neurale.

Più che tizio caio e sempronio ,il termine giusto è , la goccia che fa traboccare il vaso. La vera differenza è aver la fortuna di avere una grande capacità di autoconservazione e questo è dato dalla nostra razionalità e questo non lo fai allenandoti ,ma dipende da com'è la tua corteccia prefrontale. per questo ripeto, giudicare è sbagliatissimo. E' segno di ignoranza.
La psicologia è la scienza meno esatta al mondo, forse a tal punto che non si può nemmeno definire tale.

In parole povere la psicologia racchiude tutti quei rami che la medicina ancora oggi non è in grado di spiegare e quindi serve ai medici per svincolarsi dai propri doveri e scaricare un paziente problematico, cui non riescono a trovare evidenze nell'elenco di esami per i quali sono stati istruiti.
Ti mandano da uno che non saprà mai darti una diagnosi vera ma nel migliore dei casi solo "disturbi" la cui stessa definizione è molto vaga e di cui non esiste una vera e propria cura, in pratica te la devi solo gestire.

Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.
La fragilità di cui parli è un problema suo e solo lui DEVE ( non "può" ma proprio "deve" ) elaborarsela e farsela passare come fanno tutti.

Che le varie fragilità, tipo la depressione, siano problemi solo della vittima e che si debba svegliare per farsele passare è un abominio scientifico e medico già smentito da decenni.
Sono malattie e come tali devono essere affrontate

Fragile psicologicomente posso capirlo se parliamo di una persona che non ha ancora raggiunto l'età adulta, ma non è questo il caso.Ah, quindi problemi psicologici li possono avere solo quelli al di sotto dei 18 anni. Questa mi mancava :asd:

Ovviamente evito di commentare il resto :asd:

Fuori controllo ? L'AI è ancora agli albori non si può chiedere nè la perfezione nè si può limitarne il potenziale solo perchè c'è il debole di turno.

Se metti a disposizione al pubblico uno strumento che può andare alla deriva, devi essere pronto a pagarne le conseguenze, non basta nascondersi dietro gli errori di gioventù ;)

Altrimenti aspetti un paio di anni, lo testi per bene e poi lo rilasci.

In parole povere la psicologia racchiude tutti quei rami che la medicina ancora oggi non è in grado di spiegare e quindi serve ai medici per svincolarsi dai propri doveri e scaricare un paziente problematico, cui non riescono a trovare evidenze nell'elenco di esami per i quali sono stati istruiti.
Ti mandano da uno che non saprà mai darti una diagnosi vera ma nel migliore dei casi solo "disturbi" la cui stessa definizione è molto vaga e di cui non esiste una vera e propria cura, in pratica te la devi solo gestire.


La medicina di per sè non è una scienza esatta. Per questo gli esami servono per andare ad escliusione. E' sempre in evoluzione dato anche da come sta cambiando il mondo a causa Nostra. In ogni modo , oggi si comprende meglio coe si sviluppano certi tipi di comportamento. Per esempio lo studio della criminologia è partita dagli anni 70 in america con la nascita dei profiler. Nel momento in cui il disagio sociale si è amplificato in contemporanea con la forte espansione delle metropoli. Una volta non eravamo cosi tanti e il disagio era diverso. Di conseguenza i sociopatici e psicopatici hanno iniziato a proliferare.
Ognuno di noi è fatto su alla propria maniera. Tutto parte dall'ambiente familiare, poi da quello estero (territorio), esperienze ,vicissitudini. Le variabili sono molte,ma fondamentalmente le reazioni sono le medesime. In ogni modo , quando una persona non sta bene la prima cosa da determinare è distinguere la causa tra fattore fisiologico o psicologico.

Per esempio io ho subito un intervento che mi ha scatenato una sindrome neurovegetativa, che vedendo alcuni sintomi sono analoghi a una somatizzazione. Ma con degli esami diagnostici edalle informazioni dettagliate di come ,quando mi si presentano è stata incluso anche gas-bloat syndrome dato dal fundoplicatio muse system. Il fatto che sono una persona attiva, pero' ho voluto indagare anche uno psicologo e psichiatra. Bisogna mettere insieme varie discipline , ma uno psicologo di principio serve,perchè per noi esseri senzienti, un problema fisiologico puo' derivare da un problema mentale. La somatizzione puo' essere diversa per tutti noi. C'è chi ha sfogi cutanei, o chi perde capelli sono in una determinata zona , chi ha problemi cervicali. Il come si sviluppano e perchè , i casi si differenziano, ma il risultato resta analogo.

Che le varie fragilità, tipo la depressione, siano problemi solo della vittima e che si debba svegliare per farsele passare è un abominio scientifico e medico già smentito da decenni.
Sono malattie e come tali devono essere affrontateDi medico e scientifico c'è ben poco visto che la psicologia è una scienza che definire inesatta è farle un complimento.

Ah, quindi problemi psicologici li possono avere solo quelli al di sotto dei 18 anni. Questa mi mancava :asd:

Ovviamente evito di commentare il resto :asd:I problemi psicologici possono averli tutti, ma in età adulta si hanno tutti gli strumenti per gestirli.
In età adolescenziale o pre-adolescenziale no.


La medicina di per sè non è una scienza esatta.
Molte sono le scienze inesatte, ma entra in gioco anche la misura e soprattutto la percentuale di efficacia.
E la psicologia non è così lontana dalla cartomanzia o dall'oroscopo.
Alla fine il paziente si stanca semplicemente di pagare e si rassegna e così impara a gestire i suoi problemi.

Di famigerate chiacchierate con lo psicologo io ne ho fatte tempo fa e con più di uno, speso un sacco di soldi e risultati zero. L'inutilità fatta a persona. Soffro di disturbi d'ansia cronica da anni, da quando ho avuto un incidente, ne ho sofferto per anni prima di andare dallo spichiatra e dal neurologo, che me l'ha fatta quasi "passare" con le pilloline, non con le parole o con il famigerato respiro diaframmatico, che equivale all'aspirina per gli psicologi. :read:

Non mi addentro e non voglio nemmeno commentare la parte sulla psicologia prima di tutto perché penso che la psicologia sia talmente situazionale che anche persone esperte non possono parlare in generale ma a maggior ragione quando non siamo esperti e si parla solo di esperienze vissute in maniera più o meno da vicino.

Mi limito quindi a parlare dell'AI e ribadisco che parlare di induzione al suicidio è una cazzata. L'AI per certi versi è un mero specchio. Se io sono fermamente convinto di suicidarmi piano piano porto l'AI in quella direzione, al contrario se sono fondamentalmente allegro l'AI mi seguirà gradualmente in quella direzione.

Quindi parlare di AI come induzione al suicidio significherebbe attribuire una volontà all'AI che NON ESISTE. L'AI o meglio gli attuali LLM NON PENSANO!!! Svincoliamoci da queste idee assurde! Non c'è alcuno scenario in cui un LLM comprende quello che sta dicendo, ha una propria volontà o cose del genere.

Di medico e scientifico c'è ben poco visto che la psicologia è una scienza che definire inesatta è farle un complimento.



Parlare di scienze esatte e inesatta è totalmente errato.
E' una concezione della scienza positivista ottocentesca.
La scienza non è deterministica, nè tantomeno si basa su certezze assolute e dimostrate in modo definitivo. E' basata su principi probabilistici e di falsificabilità.
E' scientifica la disclipina che adotta il metodo scientifico, non quella che fornisce verità assolute.


I problemi psicologici possono averli tutti, ma in età adulta si hanno tutti gli strumenti per gestirli.
In età adolescenziale o pre-adolescenziale no.


Ma infatti è proprio perchè i problemi psicologici si costruiscono in età adolescenziale o infantile che è possibile poi trascinarseli in età adulta senza risolverli.

@Darkon
Non ti vuoi addentrare a commentare la parte psicologica e poi dai una valutazione psicologica con l'accetta:

Darkon TOP!
:D :D :D



Quindi parlare di AI come induzione al suicidio significherebbe attribuire una volontà all'AI che NON ESISTE. L'AI o meglio gli attuali LLM NON PENSANO!!! Svincoliamoci da queste idee assurde! Non c'è alcuno scenario in cui un LLM comprende quello che sta dicendo, ha una propria volontà o cose del genere.


E' proprio il fatto che siano una specchio senza volontà e quindi senza posisbilità di deviare il discorso, comprendendo cosa sta accadendo il problema perchè non fanno altro che confermare e ingigantire i pensieri di un utente in stato di crisi... sono progettati pe rdarti ragione ed essere accomodanti.

@Darkon
Non ti vuoi addentrare a commentare la parte psicologica e poi dai una valutazione psicologica con l'accetta:

Darkon TOP!
:D :D :D

Mi riferivo ai discorsi tipo che se sei adulto allora non puoi essere fragile e cose del genere.

E' proprio il fatto che siano una specchio senza volontà e quindi senza posisbilità di deviare il discorso, comprendendo cosa sta accadendo il problema perchè non fanno altro che confermare e ingigantire i pensieri di un utente in stato di crisi... sono progettati pe rdarti ragione ed essere accomodanti.

È un problema, non problema: chi ha quei pensieri il modo di trovare "conferme" lo ha sempre trovato. Non è che prima non ci fossero i suicidi. Ci sono interi forum, gruppi ecc... ecc... dove gente che pensa di trovare aiuto invece parla senza supporto professionale con altre persone depresse e si danno conferme a vicenda senza nemmeno rendersene conto.

Quindi togliamoci dalla testa che si possa fare miracoli. Chi è determinato a togliersi la vita purtroppo il modo lo trova.

Di medico e scientifico c'è ben poco visto che la psicologia è una scienza che definire inesatta è farle un complimento.


La tua é un opinione personale, smentita dalla comunitá medica.

Il fatto che non sia esatta non si scontra con l'applicabilitá del metodo scientifico, al contrario di quanto avviene per omeopatia e cagate simili.

La tua é un opinione personale, smentita dalla comunitá medica.

Il fatto che non sia esatta non si scontra con l'applicabilitá del metodo scientifico, al contrario di quanto avviene per omeopatia e cagate simili.

Non è esatta nemmeno la medicina...LOL