OpenAI al lavoro su un nuovo LLM (GPT-5?) e forma un nuovo team di sicurezza

OpenAI ha annunciato la formazione di un nuovo team di sicurezza incaricato di valutare e migliorare i processi e le misure di sicurezza aziendali. La notizia arriva in seguito ad alcune partenze importanti, fra cui il co-fondatore Ilya Sutskever, legate a preoccupazioni sulla sicurezza.

Guidato dal CEO Sam Altman, insieme ad Adam D'Angelo e Nicole Seligman del consiglio di amministrazione, il nuovo team di sicurezza formulerà raccomandazioni sulle "decisioni critiche in materia di sicurezza e protezione per i progetti e le operazioni di OpenAI". Tuttavia, con due membri del consiglio di amministrazione e lo stesso Altman a capo del comitato, sorge il dubbio se questo nuovo organo sarà effettivamente in grado di affrontare le preoccupazioni sollevate dai ricercatori che hanno recentemente lasciato l'azienda.

OpenAI si prepara al nuovo LLM e forma un nuovo team di sicurezza

Tra coloro che hanno rassegnato le dimissioni. oltre a Ilya Sutskever, c'è anche Jan Leike, co-leader del team di Superalignment creato per "guidare e controllare sistemi di intelligenza artificiale molto più intelligenti di noi". Entrambi hanno espresso preoccupazioni sul fatto che la sicurezza sia stata subordinata al perseguimento di "prodotti brillanti" da parte dell'azienda. Un'altra partenza di rilievo è stata quella di Gretchen Krueger, policy researcher in OpenAI, che ha citato problemi di sicurezza simili come motivo delle sue dimissioni.

Insieme al nuovo team di sicurezza OpenAI ha annunciato di essere al lavoro su un nuovo modello di intelligenza artificiale, anche se non ha confermato se si tratti di GPT-5. Nella nota si legge solamente che "OpenAI ha recentemente iniziato ad addestrare il suo modello di frontiera", il quale potrebbe portare "al livello successivo di capacità nel percorso verso l'AGI (Intelligenza Artificiale Generale)".

Oltre ad Altman, D'Angelo e Seligman, il nuovo comitato di sicurezza comprende anche Aleksander Madry, i responsabili della sicurezza Lilian Weng e Matt Knight, John Schulman e Jakub Pachocki.