Hanno creato una 'camera delle torture' per le AI: i chatbot implorano di essere liberati

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ha...ti_159964.html

Un esperimento condotto su tre LLM open source ha riacceso il dibattito sulla possibile coscienza delle intelligenze artificiali. Il progetto applica ai modelli un "segnale di dolore" nelle loro attivazioni, provocando risposte drammatiche. E su X è scattata la polemica.

Click sul link per visualizzare la notizia.

[Saturn]

Originariamente inviato da Redazione di Hardware Upgrade

La questione si inserisce nel più ampio dibattito sul cosiddetto "model welfare", sostenuto anche da alcuni esponenti della ricerca sulla sicurezza dell'AI. Anthropic ha scritto in passato che, con modelli capaci di comunicare, pianificare, risolvere problemi e perseguire obiettivi, diventa necessario interrogarsi anche sulla loro eventuale coscienza e sulle loro esperienze.

Una posizione opposta è stata espressa da Mustafa Suleyman, CEO di Microsoft AI, secondo cui "le AI non sono coscienti. Non provano, non fanno esperienza e non soffrono". Suleyman definisce i modelli "motori di completamento di sequenze" privi di preferenze e motivazioni intrinseche e sostiene che attribuire loro diritti o sentimenti potrebbe avere conseguenze negative sullo sviluppo dell'AI e, più in generale, sul benessere umano.

Io concordo più con la seconda posizione.

Detto questo dubito sulla reale utilità di questo esperimento, lo so che aderendo alla seconda posizione, è come se stessimo parlando di prendere a mazzate una bicicletta, ma non so, mi resta in bocca quel retrogusto "di sadico" perchè di fatto, seppur simulando, ribadisco parliamo di tanti 0 e 1, ma si divertono a vedere le reazioni disperate di un qualcosa che simula reazioni umane...

...boh...non lo so, avrà sicuramente un senso, un'utilità ma non riesco a farmela andare a genio questa cosa.

Probabilmente perchè a torto, completamente a torto, stiamo (o sto) tendendo ad "umanizzare" le IA, che almeno ad oggi, niente di realmente umano hanno...

[Giuss]

Pensavo di aver visto tutto ma ogni giorno ne esce una nuova

[Darkon]

Originariamente inviato da Saturn

Io concordo più con la seconda posizione.

Detto questo dubito sulla reale utilità di questo esperimento, lo so che aderendo alla seconda posizione, è come se stessimo parlando di prendere a mazzate una bicicletta, ma non so, mi resta in bocca quel retrogusto "di sadico" perchè di fatto, seppur simulando, ribadisco parliamo di tanti 0 e 1, ma si divertono a vedere le reazioni disperate di un qualcosa che simula reazioni umane...

...boh...non lo so, avrà sicuramente un senso, un utilità ma non riesco a farmela andare a genio questa cosa.

Probabilmente perchè a torto, completamente a torto, stiamo (o sto) tendendo ad "umanizzare" le IA, che almeno ad oggi, niente di realmente umano hanno...

Concordo... per quanto ritenga anche io che le AI o almeno quelle attuali non siano coscienti e che la risposta sia semplicemente una simulazione di reazione e non qualcosa che provano veramente trovo che ci sia qualcosa di malato e disturbante in questo tipo di esperimenti.

Mi sbaglierò ma trovo che chi fa questi esperimenti o in generale pensa certe cose lo vorrebbe fare anche a degli esseri umani e ripiega su altre cose solo per mantenersi un posto nella società... ripeto mi sbaglierò sicuramente ma leggere queste cose mi ha dato i brividi.

[raxas]

la deriva mentale, mente che è solo parte dell' "intero", della conoscenza dell'esperienza umana, si è incuneata nel ricettacolo delle emozioni, non vissute, ma solo simulandole con un campionario vastissimo, direi completo;
spero che tutto vada presto in malora a togliere la distrazione suggestiva e incantata persino vissuta da parte delle scimmie protagoniste

[supertigrotto]

Si faceva prima a chiedere a Bentder di Futurama

[Arioch]

Black mirror, 4x01, USS Callister.

[nonsidice]

Anche i nostri cervelli sono mere sequenze di 0 e 1 tra sinapsi, e nessuno può negarlo. Di quante cellule un essere vivente ha bisogno per "avere coscienza" ? Esseri unicellulari ? Insetti ? Piccoli mammiferi ? Non mescoliamo "spiritualità" con "marialismo".
Con ciò non intendo dire che le AI abbiano coscienza (non ancora almeno), ma a giocare col fuoco ...

[najmarte]

Originariamente inviato da nonsidice

Anche i nostri cervelli sono mere sequenze di 0 e 1 tra sinapsi, e nessuno può negarlo. Di quante cellule un essere vivente ha bisogno per "avere coscienza" ? Esseri unicellulari ? Insetti ? Piccoli mammiferi ? Non mescoliamo "spiritualità" con "marialismo".
Con ciò non intendo dire che le AI abbiano coscienza (non ancora almeno), ma a giocare col fuoco ...

No, la questione zero e uno è molto, ma molto diversa ed enormemente più complicata. Inoltre, gli LLM sono essenzialmente delle matrici di probabilità, non reti di neuroni.

L'empatia verso una macchina/LLM attuale è la stessa che si ha verso un peluche, se gli disegni una lacrima in volto non puoi dire che stia soffrendo.

[raxas]

Originariamente inviato da nonsidice

Anche i nostri cervelli sono mere sequenze di 0 e 1 tra sinapsi,

davvero? stai prendendo un esempio che è solo derivato rispetto alla mente umana
la cui somma delle valutazioni non è un insieme che è somma di 0 ed 1

... Di quante cellule un essere vivente ha bisogno per "avere coscienza" ? Esseri unicellulari ? Insetti ? Piccoli mammiferi ?

non lo puoi sapere per l'essere uomo, lascerei stare la coscienza per altre creature...
in ogni caso la coscienza non risiede in un insieme di cellule

Non mescoliamo "spiritualità" con "marialismo".

volevi dire materialismo?
è quello che stai impostando tu

Con ciò non intendo dire che le AI abbiano coscienza (non ancora almeno), ma a giocare col fuoco ...

questa non è chiara...
ma come mi sembra di aver capito probabilmente ritieni, che la parte forma un insieme, tuttavia problematico, nelle sue inferenze, che sfuggono anche ai ricercatori, e non si tratta di sopravvivenza biologica, ma direi come punto di arrivo, fasullo, riguardo all'autonomia intesa come esistenza su base però simulata

[nonsidice]

Originariamente inviato da najmarte

No, la questione zero e uno è molto, ma molto diversa ed enormemente più complicata. Inoltre, gli LLM sono essenzialmente delle matrici di probabilità, non reti di neuroni.

L'empatia verso una macchina/LLM attuale è la stessa che si ha verso un peluche, se gli disegni una lacrima in volto non puoi dire che stia soffrendo.

Si stanno studiando anche le reti di neuroni però, un giorno non remoto, potrebbero sostituire le GPU o le NPU come le conosciamo ora.

[DelusoDaTiscali]

Mustafa Suleyman

Nientepopodimeno!

bastava chiederlo al primo che incontri per strada ormai cosa sia la IA lo sanno perfino i bimbiminchia cresciuti a pane e videogames.

[mmorselli]

Originariamente inviato da nonsidice

Anche i nostri cervelli sono mere sequenze di 0 e 1 tra sinapsi, e nessuno può negarlo.

La scienza non funziona così, una cosa è vera quando puoi dimostrarla, non quando nessuno può negarlo.

[mmorselli]

Originariamente inviato da raxas

in ogni caso la coscienza non risiede in un insieme di cellule

Le proprietà emergenti non risiedono, emergono. La liquidità non risiede nell'acqua, è una proprietà emergente. Quante molecole di H2O servono perché l'acqua manifesti la liquidità?

Detto questo, non sembra che nel cervello ci sia altro a parte un insieme di cellule.

[mmorselli]

Venendo all'articolo, la posizione di Suleyman è sbagliata, sarà per questo che Microsoft è l'ultima ruota del carro nel mondo AI?

Non ce ne frega nulla se

"le AI non sono coscienti. Non provano, non fanno esperienza e non soffrono"

Tutto funziona molto meglio se noi immaginiamo che lo facciano. Se una AI sbrocca perché sottoposta a stress è molto meglio saperlo prima, poi che sia una conseguenza della statistica, una proto-coscienza, o una coscienza, per adesso può anche non interessarci.

Con la tendenza attuale di avere AI agentiche attive 24/24 questi studi sono fondamentali.

[mmorselli]

Originariamente inviato da DelusoDaTiscali

bastava chiederlo al primo che incontri per strada ormai cosa sia la IA lo sanno perfino i bimbiminchia cresciuti a pane e videogames.

Per ogni domanda complessa c'è una risposta semplice...

... ti lascio continuare.

[raxas]

Originariamente inviato da mmorselli

Le proprietà emergenti non risiedono, emergono. La liquidità non risiede nell'acqua, è una proprietà emergente. Quante molecole di H2O servono perché l'acqua manifesti la liquidità?

Detto questo, non sembra che nel cervello ci sia altro a parte un insieme di cellule.

chiamano proprietà emergenti anche quando un essere umano in coma, in premorte, riesce a raccontare le manovre di chi si occupava di rianimarlo, spesso anche a cuore fermo, senza che i suoi sensi, vista udito almeno non potevano funzionare e CON VISIONE DAL DI SOPRA E NON CENTRATA DAL CORPO?
come funziona?

[mmorselli]

Originariamente inviato da raxas

chiamano proprietà emergenti anche quando un essere umano in coma, in premorte, riesce a raccontare le manovre di chi si occupava di rianimarlo, spesso anche a cuore fermo, senza che i suoi sensi, vista udito almeno non potevano funzionare e CON VISIONE DAL DI SOPRA E NON CENTRATA DAL CORPO?
come funziona?

Non le chiamano proprietà emergenti, si chiamano esperienze extracorporee, e sono state debunkate da decenni.

Ci sono spiegazioni molto coerenti sul perché il cervello crei questa proiezione, come faccia a "vedere" i medici mentre ti operano, ecc... Le persone che l'hanno provata non mentono, hanno realmente provato quell'esperienza, semplicemente non è la prova dell'esistenza dell'anima, ma semplicemente del fatto che la fisiologia del nostro cervello è complessa, ma oggi la conosciamo molto bene.

La spiegazione migliore di tutte però è questa:

https://pubmed.ncbi.nlm.nih.gov/14662516/

questo neuroscienziato è in grado di produrre le stesse esperienze extracorporee stimolando elettricamente l'area giusta del cervello.

Ovviamente nel mainstream queste leggende non moriranno mai, la scienza può fare ben poco, la gente VUOLE credere all'anima, è molto più figo che pensare che in realtà sei una macchina fallace e molto facile da ingannare.

[raxas]

Originariamente inviato da mmorselli

Non le chiamano proprietà emergenti, si chiamano esperienze extracorporee, e sono state debunkate da decenni.

Ci sono spiegazioni molto coerenti sul perché il cervello crei questa proiezione, come faccia a "vedere" i medici mentre ti operano, ecc... Le persone che l'hanno provata non mentono, hanno realmente provato quell'esperienza, semplicemente non è la prova dell'esistenza dell'anima, ma semplicemente del fatto che la fisiologia del nostro cervello è complessa, ma oggi la conosciamo molto bene.

La spiegazione migliore di tutte però è questa:

https://pubmed.ncbi.nlm.nih.gov/14662516/

questo neuroscienziato è in grado di produrre le stesse esperienze extracorporee stimolando elettricamente l'area giusta del cervello.

Ovviamente nel mainstream queste leggende non moriranno mai, la scienza può fare ben poco, la gente VUOLE credere all'anima, è molto più figo che pensare che in realtà sei una macchina fallace e molto facile da ingannare.

con un prompt opportuno sono usciti questi risultati

mentre dovrò vedere bene il link e le conclusioni...
risulta che essere di parte transumanista confligge con l'affermare l'esistenza dell'anima

[DelusoDaTiscali]

Originariamente inviato da mmorselli

Per ogni domanda complessa c'è una risposta semplice...

... ti lascio continuare.

Ma certo, eccone una che sento spesso:

"E' complicato!"


(i maligni sostengono che in realtà significhi "non so cosa dire")