Google ha licenziato il ricercatore che riteneva senziente l'intelligenza artificiale LaMDA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...da_108870.html

Blake Lemoine è stato infine licenziato, dopo il provvedimento di congedo forzato, che era arrivato in seguito a sue dichiarazioni non autorizzate sull'intelligenza artificiale LaMDA

Click sul link per visualizzare la notizia.

[Peppe1970]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/scienz...da_108870.html

Blake Lemoine è stato infine licenziato, dopo il provvedimento di congedo forzato, che era arrivato in seguito a sue dichiarazioni non autorizzate sull'intelligenza artificiale LaMDA

Click sul link per visualizzare la notizia.

Ecco cosa accade a non tenere la bocca chiusa in talune circostanze.

[gigioracing]

Un nuovo skynet e tra noi .

[pengfei]

Non cielo dicono!!

[Ombra77]

se mai esistesse gia, cosa probabile, sarebbe di dominio militare e noi saremmo gli ultimi a saperlo.

[r1348]

Vorrei far notare che il tipo ha affermato di credere che l'IA avesse preso coscienza in base alle proprie credenze religiose.

[frncr]

Scusate, quel tizio fotografato in costume da circo davanti ai pesci sarebbe l'ingegnere che voleva assoldare un avvocato per difendere i diritti del chatbot che doveva testare? A questo punto la notizia non è il suo licenziamento, ma il fatto inspiegabile che precedentemente fosse stato assunto da Google per un qualsiasi ruolo.

[fabius21]

Originariamente inviato da r1348

Vorrei far notare che il tipo ha affermato di credere che l'IA avesse preso coscienza in base alle proprie credenze religiose.

Non dire fesserie.
Cmq è vecchio il licenziamento e una volta mi capitò di leggere le dichiarazioni del ricercatore.
E disse che chattando con la ai, questa gli rispose che era cosciente di essere una macchina e che non aveva paura che venisse spenta, che lo paragonava alla morte. Poi c'erano altre cose che ora non ricordo.

[Sp3cialFx]

beh un dipendente che fa delle dichiarazioni che riguardano un ambito di ricerca dell'azienda per la quale lavora:
a) sulla base di una idea fattasi scopiazzando in modo imbarazzante da molti film di fantascienza di Hollywood (al punto che dovrebbero chiedergli le royalty sui diritti d'autore)
b) senza autorizzazione alcuna

proprio strano venga licenziato. In una mossa è riuscito a dirci che:
1) la professionalità non sa manco dove stia di casa (da una parte non puoi dire cose random quando ti salta in mente, dall'altra parte devi presentare prove documentate di grande profondità / rilevanza)
2) ha qualche turba (dai, mi sembra palese che pensi di essere in un film il cui protagonista esclama "E' VIVO!!!")
3) è scollegato dalla realtà, lo capiva anche un bambino che sarebbe stato preso a calci in culo

[frncr]

Originariamente inviato da fabius21

Non dire fesserie.

https://www.vox.com/recode/2022/6/30...religion-robot

Documentarsi prima di parlare è troppo difficile?

"Chi sono io per dire a Dio dove può o non può mettere le anime?" ti sembra una dichiarazione scientifica?

Originariamente inviato da fabius21

Cmq è vecchio il licenziamento e una volta mi capitò di leggere le dichiarazioni del ricercatore.
E disse che chattando con la ai, questa gli rispose che era cosciente di essere una macchina e che non aveva paura che venisse spenta, che lo paragonava alla morte. Poi c'erano altre cose che ora non ricordo.

No, non è vecchio il licenziamento, prima l'avevano solo messo in congedo obbligato, adesso l'hanno licenziato.
Ma almeno la trascrizione del (presunto) dialogo pubblicata dal tizio l'hai letta? La capacità di imitazione di quel chatbot è impressionante, ma è anche evidentissimo il "pilotaggio" orchestrato dal tizio per fargli dire ciò che lui voleva, in modo da ottenere un testo capace di sconcertare gli ingenui e in generale chi non conosce i progressi tecnologici dei motori conversazionali come questo. Che lui abbia fatto quella pubblicazione perché impazzito per il suo fanatismo religioso, o che lo abbia fatto per calcolata fama di gloria non è dato saperlo, ma in entrambi i casi il licenziamento in tronco è proprio il minimo provvedimento che poteva attuare il suo datore di lavoro.

[sk0rpi0n]

Dove posso trovare la chat originale che questa persona ha fatto con l'AI?

[omerook]

comunque Blake è stato licenziato perché ha scelto di divulgare informazioni su LaMDA

LaMDA senziente o meno e ingegnere più o meno svitato fa poca differenza..

Blake a svelato al mondo che il sistema LaMDA può prenderci per il cul@ tranquillamente.

[RaZoR93]

Originariamente inviato da sk0rpi0n

Dove posso trovare la chat originale che questa persona ha fatto con l'AI?

Qui: https://cajundiscordian.medium.com/i...w-ea64d916d917

è incredibilmente convincente, così come lo è GTP3.

[taprotatonandron]

Se sembra una AI, si muove come una AI, parla come una AI, chi può affermare che non sia veramente cosciente? In fondo anche gli esseri umani, durante la loro crescita, apprendono per imitazione, e sviluppano dei "motori linguistici", che altro non sono che procedure (.. programmi?) per esprimere concetti e pensieri articolati. Chi può dire che non sia proprio questa capacità di comporre e articolare pensieri la vera consapevolezza? Qui bisogna chiarire il concetto di "essere senziente" perché gli uomini tendono a mitizzare le loro capacità, a pensare di avere l'esclusiva di "intelligenza", "anima", "coscienza", che dette così sono solo parole, a cui diamo un significato sacro e di cui pensiamo di avere l'esclusiva, in realtà non hanno alcun contenuto sovrannaturale. Sia chiaro, non sto dicendo che LaMDA è senziente.

[Redvex]

Sa fare una buona carbonara?

[Hiei3600]

Originariamente inviato da frncr

"Chi sono io per dire a Dio dove può o non può mettere le anime?" ti sembra una dichiarazione scientifica?

Quindi se uno fa copia & incolla moltiplica le anime? figo!

[frncr]

Originariamente inviato da taprotatonandron

Se sembra una AI, si muove come una AI, parla come una AI, chi può affermare che non sia veramente cosciente? In fondo anche gli esseri umani, durante la loro crescita, apprendono per imitazione, e sviluppano dei "motori linguistici", che altro non sono che procedure (.. programmi?) per esprimere concetti e pensieri articolati. Chi può dire che non sia proprio questa capacità di comporre e articolare pensieri la vera consapevolezza? Qui bisogna chiarire il concetto di "essere senziente" perché gli uomini tendono a mitizzare le loro capacità, a pensare di avere l'esclusiva di "intelligenza", "anima", "coscienza", che dette così sono solo parole, a cui diamo un significato sacro e di cui pensiamo di avere l'esclusiva, in realtà non hanno alcun contenuto sovrannaturale. Sia chiaro, non sto dicendo che LaMDA è senziente.

Al momento questo chatbot parla e basta. Chi può affermare che una IA (termine oggi molto abusato) sia cosciente? In primis direi gli scienziati che l'hanno sviluppata, i quali conoscono il suo funzionamento (fra questi non è compreso il tizio licenziato, che era solo un tester).
Nello specifico di questa "IA", si tratta di un sofisticato chatbot, un sistema che non è stato sviluppato con lo scopo di ottenere un'intelligenza artificiale in senso stretto, ma solo un sistema in grado di imitare in modo credibile la conversazione di un essere umano. Per un essere umano il linguaggio naturale è un mezzo (in buona sostanza l'unico) per comunicare i pensieri con i propri simili, non è esso stesso la sede del pensiero. Il chatbot invece non ha pensieri da comunicare, è solo un generatore automatico di frasi, nello specifico una "rete neurale" addestrata tramite esempi a produrre frasi in linguaggio naturale, coerenti e contestualizzate, che imitano quelle che potrebbe usare una persona per conversare. Dato che noi esseri umani conosciamo il pensiero dei nostri simili solo attraverso la comunicazione verbale, se ci troviamo a interagire con un computer programmato in modo da imitare in modo efficace le capacità di verbalizzazione umane, siamo portati a credere che quel computer abbia dei pensieri e finanche una consapevolezza di sé e delle intenzioni come un essere umano (il fenomeno si indica come "antropomorfizzazione").

Fermo restando che questo, come i suoi simili, è solo un chatbot e non può avere alcun tipo di consapevolezza, è interessante notare che in prospettiva futura, anche se non prossima, si presenterà il problema di individuare un criterio tecnico ed etico per definire il livello di consapevolezza di eventuali forme di IA forte, ipotizzando che in un futuro più o meno remoto sarà possibile realizzarle.
Più specificamente: il livello di verosimiglianza dei più sofisticati sw conversazionali attuali autorizza a credere che in un futuro abbastanza vicino questi sistemi saranno in grado di superare pienamente il test di Turing, pur non essendo delle IA in senso proprio, e questo renderà non utilizzabile quel tipo di valutazione per decidere in un futuro ulteriore che una "vera" IA sia effettivamente senziente nel senso in cui lo è l'essere umano.
E' bene ricordare che lo stesso identico problema si pone fra gli esseri umani: nessuno può sapere con certezza che le persone con cui interagisce siano effettivamente coscienti nello stesso modo in cui percepisce sé stesso come cosciente. Questo in filosofia è conosciuto come "problema delle altre menti", ma resta un problema filosofico perché nella pratica è ragionevole attribuire per convenzione a tutti gli esseri umani pari coscienza di sé (salvo evidenti stati patologici), basandosi sul fatto che siamo tutti biologicamente uguali e dotati del medesimo tipo di sistema nervoso, dal funzionamento del quale emerge la nostra mente. Del resto l'unica alternativa sarebbe il solipsismo, che è poco funzionale alla sopravvivenza.
Dovendo però considerare altre menti non basate sul medesimo sistema nervoso, e nemmeno sulla stessa natura biologica, questo assunto non è più valido e si manifesta così il problema di attribuire a tali eventuali menti "aliene" un grado di consapevolezza. Immagino che sarà inevitabile introdurre un criterio quantitativo di qualche genere, basato sul fatto che fra i viventi nel regno animale abbiamo riscontrato una correlazione fra la complessità del sistema nervoso e il livello di intelligenza e consapevolezza di sé.

Tornando ai chatbot: valutando le loro prestazioni bisogna tenere ben presente che questi sono programmi costruiti con il preciso scopo di ingannare gli esseri umani, facendogli credere che le loro verbalizzazioni siano manifestazioni di un'intelligenza. Questi sistemi sono costruiti per riprodurre direttamente una manifestazione esterna della mente, non la mente stessa.
Ben diverso sarebbe se simili capacità di verbalizzazione emergessero spontaneamente da un sistema IA progettato per essere intelligente, non solo per sembrare esternamente tale. Ovvero, se una macchina progettata per imitare il funzionamento del cervello umano e non il suo linguaggio imparasse a comunicare in modo simile a un essere umano, allora ci sarebbero pochi argomenti per non cosiderare quella macchina mentalmente simile a noi. Purtroppo credo che siamo molto molto lontani dalla possibilità di realizzare una macchina di tale complessità, anche se sapessimo come farlo concettualmente.

PS: il concetto di "anima" lasciamolo fuori perché attiene alle credenze religiose e non alla scienza.

[19giorgio87]

Originariamente inviato da frncr

Scusate, quel tizio fotografato in costume da circo davanti ai pesci sarebbe l'ingegnere che voleva assoldare un avvocato per difendere i diritti del chatbot che doveva testare? A questo punto la notizia non è il suo licenziamento, ma il fatto inspiegabile che precedentemente fosse stato assunto da Google per un qualsiasi ruolo.

queste sono le tipiche dichiarazioni che negli usa ti farebbero licenziare. questa persona, per quanto ne sai tu, potrebbe avere un QI due volte superiore al tuo, senza contare che probabilmente guadagna(va) quattro o cinque volte il tuo salario.

in ogni modo, a parte l'aspetto fisico penso che una profilo professionale del genere non abbia problemi a trovare impiego

[gigioracing]

Originariamente inviato da 19giorgio87

queste sono le tipiche dichiarazioni che negli usa ti farebbero licenziare. questa persona, per quanto ne sai tu, potrebbe avere un QI due volte superiore al tuo, senza contare che probabilmente guadagna(va) quattro o cinque volte il tuo salario.

in ogni modo, a parte l'aspetto fisico penso che una profilo professionale del genere non abbia problemi a trovare impiego

Sono sempre un po' strani quei genietti

[frncr]

Originariamente inviato da 19giorgio87

queste sono le tipiche dichiarazioni che negli usa ti farebbero licenziare. questa persona, per quanto ne sai tu, potrebbe avere un QI due volte superiore al tuo, senza contare che probabilmente guadagna(va) quattro o cinque volte il tuo salario.

in ogni modo, a parte l'aspetto fisico penso che una profilo professionale del genere non abbia problemi a trovare impiego

Guarda fenomeno che io non ho fatto proprio nessuna osservazione sull'aspetto fisico del tizio, lo stai facendo notare tu adesso. L'obesità grave è una patologia endemica in USA, ma non è simpatico farla notare.
Io ho ironizzato sul suo abbigliamento diciamo eufemisticamente "estroso", che sommato al suo modo di usare i social media per attirare l'attenzione su si sé potrebbe indicare una personalità un tantino narcisistica, sulla quale mi prendo la libertà di ironizzare quanto mi pare.

Soprattutto ho manifestato stupore per il fatto che quella persona possa essere stata assunta in Google e abbia avuto un incarico pur marginale in un progetto così avanzato oltre che riservato.
Lo stupore deriva dalla palese professionalità pari a ZERO posseduta dal tizio. Se non ti è chiaro ti spiego anche perché è palese l'assenza totale di professionalità:

1. Ha preso un abbaglio clamoroso attiribuendo coscienza a quel chatbot, pur sapendo di cosa si tratta e che è stato creato proprio per indurre quel tipo di convinzione negli utenti;
2. Ha rifiutato le spiegazioni e rassicurazioni da parte degli scienziati che hanno creato il chatbot sulla sua totale assenza di consapevolezza;
3. Ha mescolato in modo grottesco le sue credenze religiose con l'incarico tecnico che gli era stato affidato;
4. Ha ingaggiato un avvocato per difendere i presunti diritti personali del chatbot, confondendo la realtà con i film di Hollywood;
5. Ha violato deliberatamente la riservatezza aziendale diffondendo materiale confidenziale, assieme alla sua idea folle.

Stante questi fatti ho molti dubbi sull'intelligenza di questa persona, ma non mi interessa conoscerla e non è importante. Uno che lavora in qualche modo nel settore, pur essendo un semplice tester, può prendere una cantonata del genere o perché è uno stupidotto, oppure perché per essendo intelligente è uno squilibrato/fanatico che ha perso contatto con la realtà, oppure ancora è un simulatore in malafede per trarne vantaggio personale. Non so in quale dei tre casi rientri questo, magari una combinazione di fattori, ma in ogni caso la professionalità risultante è pari allo zero assoluto come già illustrato.

Per completezza di cronaca, a detta del soggetto stesso il suo lavoro era "to test if the technology used discriminatory or hate speech", non aveva quindi competenze scientifiche nel progetto ma ciò non toglie che non poteva non sapere almeno a grandi linee di cosa si tratta, a maggior ragione dopo che glielo hanno spiegato per bene in risposta alle sue preoccupazioni.

Dopodiché, troverà sicuramente un altro impiego, magari non nel campo della IT visti i precedenti. In USA c'è sempre un sacco di mercato per i santoni di ogni tipo, e adesso il tizio ha una notorietà da sfruttare.