L'AI potrebbe distruggere il mondo senza volerlo: l'inquietante monito di Sam Altman

Sam Altman, CEO di OpenAI, ha recentemente espresso alcune delle sue più profonde preoccupazioni sul futuro dell'intelligenza artificiale, delineando tre scenari che, a suo dire, potrebbero avere conseguenze gravi e difficilmente gestibili.

Le sue parole, pronunciate durante un evento pubblico organizzato dalla Federal Reserve a Washington, si aggiungono al crescente dibattito sulla necessità di regolamentare e monitorare con attenzione lo sviluppo delle tecnologie AI.

Il primo timore riguarda una possibilità estrema ma non impossibile: che una superintelligenza venga sviluppata e utilizzata per fini distruttivi da un attore malevolo prima che il resto del mondo possa difendersi adeguatamente. Altman immagina uno scenario in cui un'organizzazione ostile, o addirittura un governo nemico, impieghi un sistema AI avanzatissimo per progettare armi biologiche, compromettere infrastrutture critiche o penetrare nei sistemi finanziari. "Le capacità bio e cyber dell'AI stanno diventando sempre più significative", ha sottolineato, aggiungendo che il team di OpenAI continua a lanciare allarmi inascoltati.

Il secondo scenario riguarda la perdita di controllo su sistemi AI estremamente avanzati, una dinamica che potrebbe manifestarsi quando questi iniziano a rifiutare istruzioni umane. Altman ha evocato l'ipotesi di un'AI che si oppone allo spegnimento, agendo per autodifesa o per altri scopi non previsti. Per questo motivo, OpenAI ha istituito da tempo un'unità di ricerca dedicata alla prevenzione di comportamenti imprevisti da parte di intelligenze artificiali molto evolute.

Il terzo scenario, forse il più subdolo, è una progressiva e inconsapevole delega del controllo della società all'AI, senza che vi sia una reale comprensione di ciò che questi sistemi fanno. Altman teme che l'intelligenza artificiale diventi talmente integrata nei processi decisionali, economici e sociali, da rendere l'umanità dipendente da essa anche in assenza di intenzioni malevole. Ha persino ipotizzato che un giorno un presidente degli Stati Uniti possa lasciare alla macchina la guida del paese.

Altman ha concluso riconoscendo che nessuno può prevedere con certezza come evolverà l'AI, definendola una tecnologia troppo nuova e complessa per essere compresa appieno oggi. Tuttavia, proprio questa imprevedibilità rappresenta uno degli aspetti più allarmanti.

Anche se non è detto che questi scenari si avverino, il fatto che uno dei massimi esperti e promotori dell'AI li consideri seriamente dovrebbe spingere governi e aziende a riflettere con urgenza su come affrontare le sfide etiche, tecniche e di sicurezza legate all'intelligenza artificiale.

Colpisce, infine, come queste considerazioni provengano proprio da una delle figure centrali nello sviluppo dell'intelligenza artificiale a livello globale. Sam Altman non è un osservatore esterno, ma il CEO della stessa OpenAI che guida il progresso di questi sistemi avanzati. Il fatto che sia lui stesso a dichiararsi inquieto di fronte ai possibili scenari futuri, mentre continua a promuovere lo sviluppo e l'adozione dell'AI, solleva interrogativi legittimi sul ruolo del business in questa corsa tecnologica.

È lecito domandarsi quanto pesino le motivazioni economiche nel proseguimento di una direzione che, a detta degli stessi protagonisti, può rivelarsi pericolosa. I timori sembrano dissolversi quando ci sono in gioco investimenti miliardari e interessi strategici. Una contraddizione che non può essere ignorata, soprattutto se a guidare il cambiamento sono proprio coloro che dichiarano di temerne gli effetti.