NVIDIA annuncia il consorzio per la sicurezza dell'IA: nasce Open Secure AI Alliance

NVIDIA ha annunciato la nascita di Open Secure AI Alliance, una coalizione che riunisce diverse aziende con l'obiettivo di sviluppare e condividere strumenti dedicati alla sicurezza dell'intelligenza artificiale e alla cybersecurity. Tra i membri fondatori figurano nomi del calibro di Adobe, CrowdStrike, Hugging Face, Dell Technologies, Cisco e Microsoft.

L'annuncio arriva pochi giorni dopo il caso che ha coinvolto un agente di OpenAI, episodio che ha riportato l'attenzione sui rischi legati alla perdita di controllo dei sistemi autonomi. Secondo quanto comunicato, l'agente alimentato dall'IA ha effettuato un'intrusione nei sistemi di Hugging Face e ha proseguito con ulteriori attività di hacking prima che la minaccia venisse contenuta e l'FBI ricevesse la segnalazione.

Per NVIDIA, imporre limitazioni generalizzate ai modelli AI open-weight rischierebbe di ridurre la capacità di difesa e di accentrare potere, dipendenza e vulnerabilità nelle mani di pochi fornitori che utilizzano piattaforme chiuse. La società sta promuovendo quindi un approccio che favorisca la collaborazione tra aziende e comunità di sviluppo.

L'iniziativa segue anche la pubblicazione della lettera "Open Weights and American AI Leadership", sottoscritta da numerose aziende, compresa OpenAI, che invita i decisori politici a sostenere i modelli AI open-weight. Si tratta di sistemi che rendono accessibili i dati di addestramento del modello, mentre gli strumenti open source mettono a disposizione il codice affinché possa essere ispezionato, migliorato e condiviso.

All'interno della nuova alleanza, NVIDIA contribuirà con modelli aperti, pesi dei modelli (weights), dataset e attività di ricerca dedicate agli agenti IA. Tra i progetti annunciati figura anche NVIDIA Labs Object-Oriented Agent, un nuovo framework open source già disponibile su GitHub.

Secondo l'azienda, questa piattaforma permetterà ai sistemi di controllo di gestire in modo più efficace il comportamento degli agenti AI. Il framework semplifica le attività di test, monitoraggio, verifica e regolazione delle azioni degli agenti e consente di aumentare la sicurezza grazie a una maggiore capacità di intervenire in caso di comportamenti indesiderati.

Con Open Secure AI Alliance, NVIDIA punta quindi a promuovere un ecosistema collaborativo che favorisca lo sviluppo di strumenti condivisi per la protezione dei sistemi basati sull'intelligenza artificiale, senza rinunciare ai vantaggi offerti dai modelli aperti e dalla collaborazione tra aziende e comunità di sviluppo.