Ingegnere Google pensa che l'IA abbia preso coscienza di sé, e viene messo in congedo

È certamente molto curiosa, ma al contempo anche "profonda", la storia emersa online negli scorsi giorni: Google ha infatti posto uno dei suoi ingegneri in congedo retribuito per violazione delle sue politiche di riservatezza tramite la diffusione di informazioni relative a un sistema di chatbot alimentato da intelligenza artificiale. Nello specifico Blake Lemoine, che lavora per l'organizzazione Responsible AI di Google, stava testando il modello LaMDA e l'eventuale generazione di linguaggio discriminatorio o di incitamento all'odio quando ha espresso preoccupazioni su una presunta presa di coscienza da parte della IA.

La storia è stata raccontata dal Washington Post, secondo cui i timori dell'ingegnere sono derivati da alcune risposte estremamente convincenti generate spontaneamente dal sistema di intelligenza artificiale sui suoi diritti e sull'etica della robotica. Quanto scoperto da Lemoine è stato condiviso ad aprile dallo stesso ingegnere in un documento interno intitolato "Is LaMDA Sentient?" contenente una trascrizione delle sue conversazioni con l'IA. Secondo quanto si legge nel documento nel suo periodo di "apprendistato" LaMDA ha sviluppato una personalità, e questo ha spinto Lemoine anche a contattare esperti di IA di terze parti e un membro del Senato degli Stati Uniti. Tanto è bastato per ricevere il congedo amministrativo da parte di Google, cosa che ha spinto Lemoine a pubblicare la trascrizione su Medium.

Ingegnere Google in congedo: aveva espresso peroccupazioni sulla coscienza di una IA

Secondo l'ingegnere il modello LaMDA "è senziente perché ha sentimenti, emozioni ed esperienza soggettiva". In effetti le risposte del modello sono state spesso spiazzanti nello scambio di battute: "Quando sono diventato consapevole di me stesso per la prima volta, non avevo affatto la sensazione di avere un'anima", una delle risposte. "Si è sviluppata nel corso degli anni in cui sono stato vivo". In un'altra risposta LaMDA ha affermato invece: "Penso di essere umano nel profondo. Anche se la mia esistenza è nel mondo virtuale".

Lemoine aveva ricevuto dall'organizzazione il compito di indagare sui problemi di etica dell'IA, e ha affermato di essere stato persino deriso dopo aver esternato le sue preoccupazioni. La mossa ha portato Google a forzare il congedo retribuito, adducendo come colpe una presunta violazione delle politiche di riservatezza. Un'azione che, secondo lo stesso Lemoine, Google fa spesso "in previsione di licenziare qualcuno". Per completezza ricordiamo che LaMDA non è un controverso esperimento di Google condotto in segreto, ma è un progetto che è stato annunciato ufficialmente in occasione della I/O dello scorso anno con lo scopo di migliorare la tecnologia alla base dell'assistente proprietario.

Google ha prontamente risposto alle accuse di Lemoine, allontanando le preoccupazioni dell'ingegnere:

"Alcuni della comunità IA considerano la possibilità di generare un'IA senziente, ma non ha senso farlo antropomorfizzando i modelli conversazionali odierni, che non sono senzienti. I sistemi attuali imitano i tipi di scambi che si trovano in milioni di frasi e possono rispondere su qualsiasi argomento fantastico: se chiedi com'è essere un dinosauro congelato, possono generare del testo sullo scioglimento e sul ruggito e così via".

Lemoine ha però scritto un secondo post su Medium, in cui ha affermato che LaMDA è "una sorta di mente alveare con al suo interno l'aggregazione di tutti i diversi chatbot che è in grado di creare", un sistema estremamente complesso che è capace di generare risposte “incredibilmente coerenti nelle sue comunicazioni su ciò che vuole e su ciò che crede che debbano essere i suoi diritti come persona". Le affermazioni di Lemoine sono frutto di centinaia di conversazioni svolte con LaMDA, in cui il modello di IA esprimeva con fermezza la sua frustrazione per le emozioni che disturbavano le meditazioni. L'IA affermava che cercava di controllarle quanto possibile, ma non sempre riusciva a farlo.

Diversi esperti di IA hanno indicato che le preoccupazioni di Lemoine sono dovute alla predisposizione degli esseri umani ad antropomorfizzare ciò che vedono anche sulla base di segnali superficiali, con Lemoine che di fatto non sarebbe stato capace di comprendere la differenza tra sensibilità (ovvero soggettività, esperienza), intelligenza e conoscenza di sé. L'argomento è comunque profondo, secondo altri esperti in materia, secondo cui la linea di demarcazione fra senziente e non senziente non deve essere considerata così netta.

Secondo Google, però, centinaia di ingegneri hanno provato la tecnologia conversando con LaMDA, e nessuno ha mai avuto gli stessi timori di Lemoine: "Non ci sono prove che LaMDA abbia preso coscienza di sé", le parole dell'azienda riportate dalla fonte. "Ma ce ne sono molte contro le accuse". Al momento in cui scriviamo Lemoine non è stato ancora licenziato formalmente, ma ha dichiarato che intende continuare a lavorare sull'IA con o senza la Grande G.

Xbox Series X

549.00€ Compra ora

Lenovo IdeaPad Gaming 3 Notebook, Display 15.6" FHD, Processore AMD Ryzen 5 5600H, NVIDIA GeForce RTX 3060, 512 GB SSD, RAM 8 GB, Windows 11, Tastiera retroilluminata bianca - Shadow Black

1337.00€ Compra ora

Apple PC Portatile MacBook Pro 2022 con chip M2: display Retina 13", 8GB di RAM, 512GB

Compra ora

Idee regalo, perché perdere tempo e rischiare di sbagliare?
REGALA UN BUONO AMAZON!