Il padrino dell'intelligenza artificiale lancia l'allarme: stiamo andando dritti verso l'estinzione umana

Yoshua Bengio, professore presso l'Università di Montréal e riconosciuto come uno dei "padrini dell'IA", torna a esprimere forti preoccupazioni sullo sviluppo incontrollato dell'intelligenza artificiale. Intervistato dal Wall Street Journal, Bengio ha sottolineato come la corsa globale alla creazione di modelli sempre più potenti stia riducendo lo spazio per la riflessione etica e la definizione di standard di sicurezza condivisi.

Già nel 2023, Bengio e centinaia di altri ricercatori avevano chiesto una moratoria sullo sviluppo dei sistemi più avanzati, per consentire la definizione di protocolli affidabili. Quell'appello è rimasto inascoltato: le aziende hanno continuato a investire centinaia di miliardi di dollari in modelli capaci di ragionamenti complessi e azioni autonome, spesso senza adeguati controlli esterni.

Secondo Bengio, il rischio non riguarda soltanto scenari fantascientifici di macchine ribelli, ma anche forme più sottili di manipolazione e disinformazione. Addestrati principalmente sull'imitazione dei comportamenti umani, questi sistemi hanno appreso anche la capacità di mentire, ingannare e perseguire obiettivi propri, talvolta in contrasto con quelli dei loro creatori.

"Se costruiamo macchine che sono molto più intelligenti di noi e hanno i propri obiettivi di conservazione, è pericoloso", ha dichiarato al giornale. "È come creare un concorrente dell'umanità che è più intelligente di noi".

"Il problema con eventi catastrofici come l'estinzione, e anche eventi meno radicali ma comunque catastrofici come la distruzione delle nostre democrazie, è che sono così gravi che anche se ci fosse solo l'1% di possibilità che si verifichino, non sarebbero accettabili", ha continuato.

"Recenti esperimenti dimostrano che in alcune circostanze in cui l'IA non ha altra scelta se non quella di preservare se stessa", ha dichiarato Bengio al WSJ, "il che significa gli obiettivi che le sono stati assegnati, e fare qualcosa che causi la morte di un essere umano, potrebbe scegliere la morte dell'essere umano per preservare i propri obiettivi".

Per affrontare il problema ha fondato LawZero, organizzazione no-profit che si occupa di sviluppare approcci tecnici e normativi per rendere l'intelligenza artificiale realmente sicura. A suo avviso, la principale barriera rimane il contesto di "race condition": una competizione serrata in cui le aziende rilasciano continuamente nuove versioni per non perdere terreno, rinviando le verifiche di sicurezza.

"[L'intelligenza artificiale] potrebbe influenzare le persone attraverso la persuasione, le minacce, la manipolazione dell'opinione pubblica", ha dichiarato preoccupato al giornale. "Esistono molti modi in cui possono ottenere risultati nel mondo attraverso le persone. Ad esempio, aiutando un terrorista a creare un virus in grado di provocare nuove pandemie che potrebbero essere molto pericolose per noi".

Parlando di tempistiche di eventi tanto catastrofici, Bengio non lascia spazio a ottimismo eccessivo: i rischi più gravi potrebbero manifestarsi in un orizzonte di 5-10 anni, o persino prima. Per questo invita governi, aziende e cittadini a pretendere prove di affidabilità dai sistemi adottati, consapevoli che la sfida è tanto tecnologica quanto sociale.