Google ha licenziato il ricercatore che riteneva senziente l'intelligenza artificiale LaMDA

Google ha licenziato il ricercatore che riteneva senziente l'intelligenza artificiale LaMDA

Blake Lemoine è stato infine licenziato, dopo il provvedimento di congedo forzato, che era arrivato in seguito a sue dichiarazioni non autorizzate sull'intelligenza artificiale LaMDA

di pubblicata il , alle 16:50 nel canale Scienza e tecnologia
Google
 

Verso la metà di giugno vi abbiamo raccontato la storia di Blake Lemoine, ingegnere in forza a Google, nell'ambito dei progetti di sviluppo responsabile delle intelligenze artificiali. Lemoine era stato messo in congedo forzato retribuito dopo che aveva dichiarato pubblicamente e in più occasioni che secondo lui la IA LaMDA (Language Model for Dialogue Applications) era diventata senziente.

Ora questa storia è andata oltre, e purtroppo per Lemoine si è conclusa con il suo licenziamento. Il fatto non è ancora di pubblico dominio, ma lo ha raccontato lo stesso ex-dipendente in un podcast, e Google lo ha confermato al magazine Engadget.

Blake Lemoine

"Credo legittimamente che LaMDA sia una persona", aveva dichiarato, dopo aver sostenuto centinaia di conversazioni con la IA, che in alcuni casi gli aveva risposto in modi che avevano generato in lui dei dubbi. Tuttavia Google è stata assolutamente inflessibile da questo punto di vista, ed ha sempre dichiarato che quanto sostenuto da Lemoine non fosse assolutamente vero. Anche altri specialisti di IA hanno commentato l'accaduto, convinti che l'ingegnere si sia solo fatto condizionare mentalmente, dimenticandosi che lo scopo di LaMDA è proprio cercare di imitare al meglio le conversazioni umane.

Per spiegare l'accaduto Google ha anche rilasciato una dichiarazione ufficiale:

"LaMDA ha superato 11 recensioni distinte e abbiamo pubblicato un documento di ricerca all'inizio di quest'anno descrivendo in dettaglio il lavoro che va verso il suo sviluppo responsabile. Se un dipendente condivide delle preoccupazioni sul nostro lavoro, come ha fatto Blake, le esaminiamo ampiamente. Abbiamo riscontrato che le affermazioni di Blake, secondo cui LaMDA è senziente, sono del tutto infondate e abbiamo lavorato per chiarirlo con lui per molti mesi. Queste discussioni facevano parte della cultura aperta che ci aiuta a innovare in modo responsabile. Quindi, è deplorevole che, nonostante il lungo impegno su questo argomento, Blake abbia comunque scelto di violare in modo persistente chiare politiche sull'occupazione e sulla sicurezza dei dati che includono la necessità di salvaguardare le informazioni sui prodotti. Continueremo il nostro attento sviluppo di modelli linguistici e auguriamo il meglio a Blake". 
23 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Peppe197023 Luglio 2022, 17:26 #1
Originariamente inviato da: Redazione di Hardware Upgrade
Link alla notizia: https://www.hwupgrade.it/news/scien...mda_108870.html

Blake Lemoine è stato infine licenziato, dopo il provvedimento di congedo forzato, che era arrivato in seguito a sue dichiarazioni non autorizzate sull'intelligenza artificiale LaMDA

Click sul link per visualizzare la notizia.


Ecco cosa accade a non tenere la bocca chiusa in talune circostanze.
gigioracing23 Luglio 2022, 18:40 #2
Un nuovo skynet e tra noi .
pengfei23 Luglio 2022, 19:13 #3
Non cielo dicono!!
Ombra7723 Luglio 2022, 20:03 #4
se mai esistesse gia, cosa probabile, sarebbe di dominio militare e noi saremmo gli ultimi a saperlo.
r134823 Luglio 2022, 21:01 #5
Vorrei far notare che il tipo ha affermato di credere che l'IA avesse preso coscienza in base alle proprie credenze religiose.
frncr23 Luglio 2022, 21:05 #6
Scusate, quel tizio fotografato in costume da circo davanti ai pesci sarebbe l'ingegnere che voleva assoldare un avvocato per difendere i diritti del chatbot che doveva testare? A questo punto la notizia non è il suo licenziamento, ma il fatto inspiegabile che precedentemente fosse stato assunto da Google per un qualsiasi ruolo.
fabius2123 Luglio 2022, 22:25 #7
Originariamente inviato da: r1348
Vorrei far notare che il tipo ha affermato di credere che l'IA avesse preso coscienza in base alle proprie credenze religiose.



Non dire fesserie.
Cmq è vecchio il licenziamento e una volta mi capitò di leggere le dichiarazioni del ricercatore.
E disse che chattando con la ai, questa gli rispose che era cosciente di essere una macchina e che non aveva paura che venisse spenta, che lo paragonava alla morte. Poi c'erano altre cose che ora non ricordo.
Sp3cialFx23 Luglio 2022, 23:03 #8
beh un dipendente che fa delle dichiarazioni che riguardano un ambito di ricerca dell'azienda per la quale lavora:
a) sulla base di una idea fattasi scopiazzando in modo imbarazzante da molti film di fantascienza di Hollywood (al punto che dovrebbero chiedergli le royalty sui diritti d'autore)
b) senza autorizzazione alcuna

proprio strano venga licenziato. In una mossa è riuscito a dirci che:
1) la professionalità non sa manco dove stia di casa (da una parte non puoi dire cose random quando ti salta in mente, dall'altra parte devi presentare prove documentate di grande profondità / rilevanza)
2) ha qualche turba (dai, mi sembra palese che pensi di essere in un film il cui protagonista esclama "E' VIVO!!!"
3) è scollegato dalla realtà, lo capiva anche un bambino che sarebbe stato preso a calci in culo
frncr23 Luglio 2022, 23:21 #9
Originariamente inviato da: fabius21
Non dire fesserie.


https://www.vox.com/recode/2022/6/3...-religion-robot

Documentarsi prima di parlare è troppo difficile?

"Chi sono io per dire a Dio dove può o non può mettere le anime?" ti sembra una dichiarazione scientifica?

Originariamente inviato da: fabius21
Cmq è vecchio il licenziamento e una volta mi capitò di leggere le dichiarazioni del ricercatore.
E disse che chattando con la ai, questa gli rispose che era cosciente di essere una macchina e che non aveva paura che venisse spenta, che lo paragonava alla morte. Poi c'erano altre cose che ora non ricordo.


No, non è vecchio il licenziamento, prima l'avevano solo messo in congedo obbligato, adesso l'hanno licenziato.
Ma almeno la trascrizione del (presunto) dialogo pubblicata dal tizio l'hai letta? La capacità di imitazione di quel chatbot è impressionante, ma è anche evidentissimo il "pilotaggio" orchestrato dal tizio per fargli dire ciò che lui voleva, in modo da ottenere un testo capace di sconcertare gli ingenui e in generale chi non conosce i progressi tecnologici dei motori conversazionali come questo. Che lui abbia fatto quella pubblicazione perché impazzito per il suo fanatismo religioso, o che lo abbia fatto per calcolata fama di gloria non è dato saperlo, ma in entrambi i casi il licenziamento in tronco è proprio il minimo provvedimento che poteva attuare il suo datore di lavoro.
sk0rpi0n24 Luglio 2022, 09:55 #10
Dove posso trovare la chat originale che questa persona ha fatto con l'AI?
« Pagina Precedente     Pagina Successiva »

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^