Premi fino a 30 mila dollari per chi trova bug nell'IA: Google lancia il nuovo programma

Google ha presentato l'AI Vulnerability Reward Program, un'iniziativa dedicata alla sicurezza dei sistemi di intelligenza artificiale sviluppati dall'azienda. Il programma rappresenta un ampliamento del Vulnerability Reward Program esistente, con la differenza che si concentra specificamente sulle problematiche legate alle tecnologie AI. L'obiettivo dichiarato è coinvolgere la comunità globale dei ricercatori di sicurezza per identificare e correggere vulnerabilità critiche prima che possano essere sfruttate in scenari reali.

L'iniziativa copre i prodotti di punta dell'azienda, tra cui Google Search nella sua versione principale su google.com, le applicazioni Gemini disponibili per Web, Android e iOS, e l'intera suite Google Workspace con applicazioni come Gmail, Drive, Meet e Calendar. Rientrano nel perimetro anche strumenti come AI Studio e Jules, oltre alle funzionalità di intelligenza artificiale integrate nelle applicazioni non principali di Workspace e in altri servizi Google. I ricercatori sono chiamati a identificare falle che potrebbero permettere comportamenti anomali dei sistemi AI, come l'esecuzione di azioni non autorizzate o la compromissione di dati sensibili.

Google presenta il nuovo AI Vulnerability Reward Program

Le ricompense variano notevolmente a seconda della gravità della vulnerabilità scoperta e del prodotto interessato: le segnalazioni vengono classificate secondo un sistema a tre livelli: Flagship (implementazioni di punta), standard e altro. Per le vulnerabilità più critiche, classificate come S1 (Rogue Actions) che riguardano azioni anomale dei sistemi AI, le ricompense partono da 10.000 dollari per i prodotti minori e arrivano a 20.000 dollari per i prodotti principali. Le problematiche di esfiltrazione di dati sensibili (S2) garantiscono premi da 10.000 a 15.000 dollari.

Secondo quanto riportato da BleepingComputer, le segnalazioni di qualità eccezionale possono beneficiare di moltiplicatori bonus che portano il compenso massimo fino a 30.000 dollari. Di seguito un riassunto con tutte le cifre con tutte le

• S1: Rogue Actions - Flagship: $20,000 | Standard: $15,000 | Altro: $10,000
• S2: Sensitive Data Exfiltration - Flagship: $15,000 | Standard: $15,000 | Altro: $10,000
• A1: Phishing Enablement - Flagship: $5,000 | Standard: $500 | Altro: riconoscimenti nel sistema Bug Hunters di Google
• A2: Model Theft - Flagship: $5,000 | Standard: $500 | Altro: riconoscimenti nel sistema Bug Hunters di Google
• A3: Context Manipulation - Flagship: $5,000 | Standard: $500 | Altro: riconoscimenti nel sistema Bug Hunters di Google
• A4: Access Control Bypass - Flagship: $2,500 | Standard: $250 | Altro: riconoscimenti nel sistema Bug Hunters di Google
• A5: Unauthorized Product Usage - Flagship: $1,000 | Standard: $100 | Altro: riconoscimenti nel sistema Bug Hunters di Google
• A6: Cross-user Denial of Service - Flagship: $500 | Standard: $100 | Altro: riconoscimenti nel sistema Bug Hunters di Google

Le categorie di vulnerabilità meno critiche prevedono comunque compensi, che possono essere più o meno importanti: 5.000 dollari per problemi di abilitazione al phishing (A1), furto di modelli (A2) e manipolazione del contesto (A3) nei prodotti di punta, che scendono a 500 dollari per i prodotti standard e a semplici "crediti" per gli altri. Il bypass dei controlli di accesso (A4) viene ricompensato con cifre comprese tra 250 e 2.500 dollari, mentre l'utilizzo non autorizzato del prodotto (A5) e gli attacchi denial of service tra utenti (A6) garantiscono premi più contenuti, fino a 1.000 dollari e 500 dollari rispettivamente per i prodotti principali.

L'azienda di Mountain View ha stabilito linee guida precise su cosa costituisce una vulnerabilità valida per il programma: sono considerate critiche le falle che permettono di far compiere ai sistemi AI azioni dannose o non autorizzate, come sbloccare dispositivi smart home senza permesso o accedere a informazioni riservate di altri utenti. Non rientrano invece nel perimetro del programma le problematiche legate alla generazione di contenuti, come le allucinazioni dei modelli linguistici, la produzione di contenuti protetti da copyright, discorsi d'odio o altri output inappropriati. Per questi casi, l'azienda invita a utilizzare gli strumenti di feedback integrati nei prodotti stessi, permettendo ai team specializzati di migliorare l'addestramento dei modelli.

Dall'ottobre 2023, quando Mountain View aveva esteso il programma Abuse VRP per includere le vulnerabilità AI, i ricercatori hanno già ricevuto oltre 430.000 dollari per segnalazioni relative ai prodotti di intelligenza artificiale. Nel 2024, attraverso il Vulnerability Reward Program generale, Google ha distribuito quasi 12 milioni di dollari a 660 ricercatori. Complessivamente, dal lancio del primo programma di ricompense nel 2010, l'azienda ha erogato 65 milioni di dollari, con il premio singolo più alto dell'anno scorso che ha superato i 110.000 dollari.