L'AI ha bisogno di "linee rosse invalicabili": l'appello per una regolamentazione globale

"Linee rosse" invalicabili per l'Intelligenza Artificiale: è questa la richiesta di oltre 200 ex capi di Stato, diplomatici, premi Nobel, leader del settore tecnologico e scienziati che hanno sottoscritto un appello per un accordo politico internazionale da raggiungere entro la fine del 2026 che vieti alcune ramificazioni dello sviluppo tecnologico dell'AI.

L’iniziativa, denominata Global Call for AI Red Lines, è stata sostenuta anche da oltre 70 organizzazioni legate alla ricerca e allo sviluppo dell’AI. L’annuncio è stato presentato in vista della 80ª Assemblea Generale delle Nazioni Unite a New York ed è guidato da CeSIA, The Future Society e dal Center for Human-Compatible Artificial Intelligence dell’Università di Berkeley. La Nobel per la Pace Maria Ressa ha citato l’iniziativa nel suo intervento di apertura, richiamando l’urgenza di porre fine alla “impunità delle Big Tech attraverso una responsabilizzazione globale”.

“L’obiettivo non è reagire a incidenti quando si sono già verificati, ma prevenire rischi su larga scala e potenzialmente irreversibili prima che accadano”, ha spiegato Charbel-Raphaël Segerie, direttore esecutivo del CeSIA (French Center for AI Safety), durante una conferenza stampa. Segerie ha ribadito come, anche in assenza di una visione comune sui benefici dell’AI, i governi debbano quantomeno concordare su cosa l’AI non debba mai fare.

Tra i firmatari figurano nomi di primo piano come Geoffrey Hinton, pioniere delle reti neurali, Wojciech Zaremba, cofondatore di OpenAI, Jason Clinton, CISO di Anthropic, e Ian Goodfellow, ricercatore di Google DeepMind. Tutti uniti dall’idea che alcune soglie non possano essere superate, come il divieto per algoritmi e sistemi autonomi di auto-replicarsi o di fingersi esseri umani.

Alcuni esempi di linee rosse locali già esistono. L’Unione Europea, attraverso l’AI Act, ha bandito alcuni utilizzi considerati “inaccettabili”. Stati Uniti e Cina hanno firmato un accordo che stabilisce che il controllo delle armi nucleari debba restare in mano agli esseri umani, e non all’intelligenza artificiale. Quello che però manca ancora è un quadro condiviso a livello globale, anche perché gli impegni volontari assunti fino ad ora dalle aziende tecnologiche non sono vincolati né vincolanti, e quindi insufficienti.

“Le politiche di auto-regolamentazione sull’uso responsabile dell’AI non garantiscono un’applicazione effettiva”, ha sottolineato Niki Iliadis, responsabile per la governance globale dell’AI presso The Future Society. Secondo Iliadis, nel lungo periodo sarà necessario la creazione di una istituzione indipendente con reali poteri per definire, monitorare ed eventualmente far rispettare queste linee rosse.

Il professore dell’Università di Berkeley Stuart Russell ha sottolineato come l’industria tecnologica dovrà adottare un approccio diverso. “Proprio come nel campo dell'energia nucleare si è evitato di costruire centrali prima di sapere come controllarne la sicurezza, così l’industria dell’AI deve scegliere un percorso che includa la sicurezza fin dall’inizio”. Russell ha aggiunto che i limiti non frenano l’innovazione: “Si può avere un’AI utile allo sviluppo economico senza creare forme avanzate di intelligenza artificiale che non sappiamo controllare. Questa presunta dicotomia non ha alcun senso”.