Pericolo armi biologiche: l'ammissione choc di OpenAI sui suoi modelli futuri

OpenAI sostiene che i suoi prossimi modelli saranno così avanzati da poter essere utilizzati per creare nuove armi biologiche mai esistite prima. L'azienda ha affermato, in un recente post sul proprio blog ufficiale, che nonostante stia sviluppando modelli sempre più sofisticati con "casi d'uso positivi come la ricerca biomedica e la biodifesa", avverte il dovere di bilanciare "l'abilitazione del progresso scientifico mantenendo barriere contro le informazioni dannose".

Queste "informazioni dannose" includerebbero, a quanto pare, la capacità di "assistere attori altamente qualificati nella creazione di armi biologiche". "L'accesso fisico ai laboratori e ai materiali sensibili rimane una barriera", si legge nel post, ma "quelle barriere non sono assolute".

Il responsabile della sicurezza di OpenAI Johannes Heidecke ha chiarito che, sebbene l'azienda non ritenga necessariamente che le sue future IA saranno in grado di produrre autonomamente armi biologiche, saranno abbastanza avanzate da aiutare a farlo anche chi ha poca o nessuna competenza. "Non siamo ancora nel mondo in cui esiste una creazione di minacce biologiche completamente nuove, mai esistite prima. Siamo più preoccupati della replica di cose che gli esperti già conoscono molto bene" ha spiegato Heidecke ad Axios.

Il responsabile della sicurezza di OpenAI ha anche ammesso che, sebbene gli attuali modelli non siano ancora a quel livello, si aspetta che "alcuni successori del nostro modello di ragionamento o3 raggiungano quel livello". "Il nostro approccio è focalizzato sulla prevenzione. Non riteniamo accettabile aspettare e vedere se si verifica un evento di minaccia biologica prima di decidere un livello sufficiente di garanzie".

Nel post sul proprio blog OpenAI sottolinea le contromisure che già sta mettendo in atto e quelle che adotterà in futuro, evidenziando come l'approccio non sia è quello di evitare sul nascere queste prospettive (si tratta, del resto, dell'eterno dilemma tra innovazione, progresso e rischi), ma piuttosto di incrementare gli sforzi nella realizzazione di modelli avanzati con ampie garanzie e controlli a corredo. Heidecke sottolinea che questi modelli dovranno avere una precisione "quasi perfetta" per riconoscere e segnalare eventuali pericoli ai supervisori umani: "Non è qualcosa in cui si possa accettare una probabilità del 99% o di 1 su centomila".