L'intelligenza artificiale può causare danni significativi al mondo: lo dice il papà di ChatGPT

In una testimonianza al Senato statunitense, il CEO di OpenAI Sam Altman ha chiesto un intervento da parte dei legislatori per regolamentare il settore dell'intelligenza artificiale e le società che lo affollano.

"Pensiamo che l'intervento normativo da parte dei governi sarà fondamentale per mitigare i rischi di modelli sempre più potenti", ha affermato Altman (via Arstechnica). "Ad esempio, il governo degli Stati Uniti potrebbe prendere in considerazione una combinazione di requisiti di licenza e test per lo sviluppo e il rilascio di modelli di intelligenza artificiale che superino una certa soglia di capacità".

Altman si è detto "abbastanza preoccupato" che le elezioni USA del 2024 vengano influenzate dai contenuti generati dall'IA. "Dato che dovremo affrontare le elezioni il prossimo anno e questi modelli stanno migliorando, penso che questa sia un'area di preoccupazione significativa... Ritengo che una regolamentazione su questo argomento sarebbe abbastanza saggia", ha detto Altman.

Anche Christina Montgomery, chief privacy and trust officer di IBM, ha sposato la linea del CEO di OpenAI. "IBM esorta il Congresso ad adottare un approccio normativo accurato sull'IA. Ciò significa stabilire regole per governare l'implementazione dell'IA in casi d'uso specifici, non regolare la tecnologia stessa".

Montgomery ritiene che il Congresso debba definire chiaramente i rischi dell'IA e imporre "regole diverse per rischi diversi", con quelle più stringenti "applicate ai casi d'uso con i maggiori rischi per le persone e la società".

La posizione di OpenAI e IBM ha scatenato una certa sorpresa tra i presenti, tanto che il senatore Dick Durbin ha dichiarato che è straordinario vedere le grandi aziende presentarsi al Senato chiedendo un impegno per regolamentarle. Che sappiano di avere tra le mani qualcosa che potrebbe sfuggire al controllo?

Altman ha suggerito al Congresso di formare una nuova agenzia che conceda in licenza la tecnologia di intelligenza artificiale "al di sopra di una certa scala di capacità" e che "potrebbe revocare tale licenza per garantire il rispetto degli standard di sicurezza". Inoltre, prima di rilasciare al pubblico un sistema di intelligenza artificiale, dovrebbero esserci audit indipendenti da parte di "esperti che possono affermare che il modello è o meno conforme".

La possibilità che l'industria dell'intelligenza artificiale possa "causare danni significativi al mondo", secondo Altman, esiste. "Penso che se questa tecnologia va storta, può andare completamente storta, e vogliamo essere espliciti al riguardo", ha detto Altman. "Vogliamo lavorare con il governo per evitare che ciò accada".

Le licenze invocate dal CEO di OpenAI dovrebbero essere richieste per quei modelli che "possono persuadere, manipolare, influenzare il comportamento di una persona, le convinzioni di una persona" o "aiutare a creare nuovi agenti biologici".

Infine, Altman ha commentato negativamente le parole di chi ha richiesto una pausa nello sviluppo dell'IA (come Musk e Wozniak). Secondo lui, infatti, è meglio pubblicare miglioramenti incrementali: "penso che non andrebbe bene costruire un sistema di intelligenza artificiale super potente in segreto e poi lanciarlo sul mondo tutto in una volta".

"Gran parte della nostra strategia, in questo momento in cui i sistemi sono relativamente deboli e profondamente imperfetti, è quella di trovare modi per convincere le persone a farvi esperienza... e capire cosa dobbiamo fare per renderli più sicuri e migliori", ha aggiunto Altman.

Anche il senatore Richard Blumenthal ritiene che non abbia senso cercare di fermare lo sviluppo dell'intelligenza artificiale. "Il mondo non aspetterà, il resto della comunità scientifica globale non si fermerà. Abbiamo avversari che stanno andando avanti e mettere la testa sotto la sabbia non è la risposta", ha detto il politico.

Durante l'udienza si è anche discusso dell'impatto dell'AI sui posti di lavoro. Il CEO di IBM Arvind Krishna ha recentemente svelato l'intenzione di sospendere le assunzioni per circa 7.800 posti di lavoro, potenzialmente sostituibili da sistemi di intelligenza artificiale.

A tal riguardo, Montgomery ha affermato che "verranno creati nuovi posti di lavoro, molti più posti di lavoro verranno trasformati e alcuni lavori verranno trasferiti". Altman, dal canto suo, ritiene che "GPT-4 automatizzerà completamente alcuni lavori e ne creerà di nuovi che riteniamo saranno molto migliori".