USA e Cina si combattono su tutto, tranne che sul rischio IA: temono lo stesso "momento Chernobyl"

Su un punto il fronte occidentale e quello cinese della ricerca sull'intelligenza artificiale si ritrovano d'accordo, ed è un timore: che una singola catastrofe pubblica possa chiudere per sempre la finestra di consenso sociale intorno alla tecnologia. Lo scenario ha un nome evocativo, il momento Chernobyl dell'IA, ed è emerso a una conferenza organizzata a giugno dalla Beijing Academy of Artificial Intelligence nel distretto tecnologico di Zhongguancun, a Pechino, come ha raccontato in prima persona Will Knight, unico giornalista presente, in un reportage per Wired.

Stephen Casper, informatico del MIT collegato in video all'incontro, ha fotografato il sentimento condiviso: "Una delle poche cose su cui quasi tutti nell'IA oggi concordano è che l'IA non ha bisogno di un momento Chernobyl". La preoccupazione riguarda l'eredità che un disastro comparabile lascerebbe dietro di sé: come l'incidente sovietico del 1986 ha di fatto congelato per decenni la percezione pubblica del nucleare civile, così una catastrofe legata all'IA potrebbe comprometterne irreversibilmente l'immagine e bloccarne lo sviluppo. Casper descrive la posta in gioco come "una tecnologia globale con benefici globali, danni globali e una costante tendenza delle nuove capacità a proliferare col tempo".

Il rischio più concreto è la cybersecurity

Nel breve termine il pericolo che appare più tangibile è quello informatico. Gli agenti IA e i coding tool possono abbassare la soglia di competenza necessaria per orchestrare un cyberattacco e, allo stesso tempo, aumentarne la scala: strumenti alla portata di molti più aggressori, con effetti potenzialmente devastanti.

Alcuni segnali di questa tensione sono già visibili. Anthropic ha annunciato il modello Claude Mythos ma ha rinunciato a rilasciarlo pubblicamente, dichiarandolo tanto potente da poter violare "ogni principale sistema operativo e ogni principale browser web".

Il timore attraversa anche l'altro lato. Una fonte anonima di una delle principali aziende IA cinesi ha spiegato che proprio le preoccupazioni di sicurezza sono uno dei motivi per cui i modelli più avanzati in Cina non vengono più distribuiti come open source.

La strada indicata è la cooperazione

Lin Yun, professore alla Shanghai Jiao Tong University, prevede che nel breve periodo saranno gli hacker a guadagnare un vantaggio grazie all'IA, ma che sul lungo termine la stessa tecnologia potrà rafforzare le difese informatiche. La sua conclusione punta sulla cooperazione globale: "Se Paesi diversi comprendono i rischi in modo simile, diventa più facile sviluppare principi di sicurezza e standard tecnici condivisi. Il punto è trovare gli ambiti in cui la condivisione può ridurre il rischio sistemico senza esporre dettagli operativi sensibili".

È lo stesso registro con cui Casper ha richiamato il precedente della Guerra fredda, quando Stati Uniti e Unione Sovietica trovarono forme di contenimento delle minacce nucleari pur continuando a espandere i rispettivi arsenali. Non è un dettaglio da poco che il messaggio arrivi da una platea di quel peso: alla conferenza di Zhongguancun sedevano figure come Whitfield Diffie, co-inventore della crittografia a chiave pubblica, e Andrew Barto, premio Turing per il reinforcement learning, tra sessioni dedicate al recursive self-improvement e ai robot umanoidi.