L'intelligenza artificiale generale? Illusione e fumo negli occhi: parla una pioniera dell'AI etica

Margaret Mitchell, ricercatrice AI e Chief Ethics Scientist di Hugging Face, non usa mezzi termini: l'AGI è "vibes and snake oil", un'espressione che può essere efficacemente tradotta con "suggestioni e sciocchezze". Il parere di Mitchell, raccolto in un'intervista al Finacial Times e decisamente controcorrente rispetto alla narrativa che i grandi dell'IA, da OpenAI ad Anthropic, si impegnano a diffondere, e va considerato con particolare attenzione: Mitchell infatti è stata una delle fondatrici del team di intelligenza artificiale responsabile di Google, dal quale è stata allontanata nel 2021. Stiamo parlando di una pioniera e veterana dell'intelligenza artificiale, che ha contribuito allo sviluppo delle fondamenta di queste tecnologie ben prima che arrivassero al pubblico di massa.

L'intervista tocca diversi momenti della carriera di Mitchell, ma uno dei passaggi centrali è la critica alla narrativa sull’AGI. "AGI è essenzialmente una narrazione", sostiene Mitchell spiegando che il concetto stesso di "intelligenza" è ambiguo e controverso, utilizzato storicamente per creare divisioni e giustificare disuguaglianze. "AGI fornisce una patina di positività e oggettività, ma in realtà è un concetto vago che permette ai tecnologi di portare avanti qualsiasi progetto". Anche il termine "generale" è poco chiaro: "Avere conoscenze generali non significa essere bravi in tutto. L’AGI è un concetto problematico che offre solo l’illusione di oggettività e progresso”.

Mitchell riflette anche sulle motivazioni profonde di chi lavora nell’IA: "Sviluppiamo tecnologia perché ci diverte. Spesso le spiegazioni sull’utilità sociale arrivano dopo. Anch’io amo programmare, ma mi scontro con i dilemmi etici. L’ossessione per l’AGI è spesso una giustificazione postuma per la passione tecnologica". Per Mitchell, l’obiettivo ultimo dell’IA dovrebbe essere il benessere umano, non la sostituzione delle persone: "È importante integrare, non sostituire. La tecnologia deve aiutare l’uomo a prosperare, non rimpiazzarlo".

Le posizioni condivise da Mitchell durante l'intervista sono una sintesi di quanto espresso, assieme ad altri colleghi, in un articolo accademico recentemente pubblicato dal titolo "Stop treating AGI as the north-star goal of AI research", dove viene condannata l'illusione del consenso su cosa significhi AGI e su cosa sia necessario fare, spingendo lo sviluppo tecnologico su parametri poco realistici. In maniera più ampia Mitchell rileva che nello sviluppo dell'IA manchi un vero metodo scientifico e che spesso vengano condivise affermazioni eclatanti non suffragate da dati (come la previsione di colonizzare la galassia entro cinque anni...).

Mitchell sottolinea inoltre come il paradigma attuale dei large language model (LLM) sia utile solo in contesti specifici e che la loro utilità sarebbe maggiore se fossero "ancorati alla realtà". "Non credo che gli LLM possano sostituire gli esseri umani nei compiti che richiedono grande esperienza. È un errore pensarlo" afferma Mitchell, che avverte come le conseguenze di una fiducia cieca nella narrativa dell’IA siano già evidenti: "C’è una crescente frattura tra chi guadagna con l’IA e chi perde il lavoro. Le persone che hanno fornito i dati per addestrare i sistemi stanno perdendo reddito e potere, mentre chi sviluppa l’IA si arricchisce. Il divario si sta ampliando".

La ricercatrice esprime comunque un cauto ottimismo verso il potenziale dell'intelligenza artificiale e, in particolare, degli agenti AI per semplificare l'esecuzione di attività complesse: "Non siamo ancora pronti, ma se riuscissimo a superare il problema dell’ancoraggio alla realtà, potremmo avere strumenti davvero utili per tutti. Non cerco la singolarità, ma soluzioni pratiche ai problemi quotidiani". "Bisogna mettere al centro le persone, non la tecnologia: solo così si può puntare al benessere umano".