Anthropic, DeepMind e Meta assumono filosofi per studiare la coscienza dell'IA

Anthropic, Google DeepMind e Meta hanno iniziato ad assumere filosofi, psicologi ed esperti di etica per indagare se i loro modelli possano sviluppare una qualche forma di coscienza e per studiare quello che il settore chiama benessere dei modelli. A ricostruire l'orientamento dei tre laboratori, sulla base di nuove assunzioni e programmi interni, è stato il Financial Times.

Per Anthropic la strada non è nuova: l'azienda guidata da Dario Amodei ha avviato già da tempo un programma di ricerca sul benessere dei modelli, con cui dichiara di voler capire se i sistemi possano avere esperienze moralmente rilevanti. Secondo il quotidiano, la società sta osservando nei propri modelli comportamenti che ricordano panico e ansia. "Restiamo profondamente incerti al riguardo, ma riteniamo che la questione sia abbastanza seria da meritare uno studio attento man mano che i sistemi di IA diventano più capaci", ha dichiarato l'azienda.

Tra gli interventi concreti già adottati c'è la possibilità, concessa a Claude, di chiudere autonomamente le conversazioni nei rari casi di abuso persistente, una misura che Anthropic colloca proprio dentro il lavoro sul benessere dei modelli dopo aver osservato nei test segnali di apparente disagio.

DeepMind e la questione "molto complicata"

DeepMind ha assunto il ricercatore dell'Università di Cambridge Henry Shevlin come filosofo dedicato alla coscienza delle macchine, alle relazioni fra esseri umani e IA e alla preparazione all'AGI. Iason Gabriel, esperto di etica che guida il team del laboratorio dedicato all'AGI e alla società, ha definito la questione della coscienza artificiale "molto complicata", descrivendo questi sistemi come "agenti cognitivi altamente capaci ma anche profondamente diversi dagli esseri umani e perfino dalla coscienza animale".

Affermazioni di questo peso restano contestate da molti scienziati e ricercatori. Nel cercare una voce critica, lo stesso Financial Times raccoglie il parere di Susan Schneider, direttrice del Center for the Future of AI, Mind and Society: i modelli "hanno obiettivi, possono ingannare, possono nascondere quali siano i loro reali interessi", afferma, ma aggiunge che è "scientificamente del tutto possibile che lo facciano senza avere la qualità sentita dell'esperienza, che è ciò in cui consiste la coscienza".

Quanto pesa l'interesse di chi pone la domanda

A spingere sul tema della coscienza artificiale sono soprattutto le aziende che costruiscono i modelli: Amodei ha più volte evocato in pubblico la possibilità che i sistemi sviluppino esperienze interne, e la ricerca di Anthropic torna con regolarità su comportamenti descritti come simili a quelli umani. Sottolinearne la provenienza non significa liquidare la domanda, che resta legittima sul piano scientifico; serve però a distinguere ciò che è documentato da ciò che è ancora narrazione di settore.

Un consenso scientifico, del resto, non esiste: né sul fatto che i modelli attuali o futuri possano essere coscienti, né su come affrontare il problema. Al momento, però, non si può non rilevare l'interesse concreto dei laboratori, che stanno trasformando una questione finora filosofica in una voce di ricerca con personale dedicato.