OpenAI conferma: ChatGPT può essere usato per scrivere malware, e funziona

L'intelligenza artificiale punta a diventare uno strumento prezioso per i professionisti, e per alcuni lo è già. Il problema è che anche i cybercriminali ne stanno beneficiando: OpenAI ha, infatti, recentemente confermato che diversi gruppi di hacker stanno utilizzando ChatGPT per scrivere e perfezionare codice malevolo, diffondere disinformazione e condurre attacchi di phishing mirati.

La società ha dichiarato di aver interrotto più di 20 operazioni informatiche dannose dall'inizio dell'anno, fornendo la prima conferma ufficiale dell'uso improprio di strumenti mainstream di intelligenza artificiale generativa per scopi offensivi nel campo della cybersecurity.

OpenAI conferma: la sua IA è stata usata anche con finalità malevole

Tra i gruppi identificati figura SweetSpecter, un'organizzazione cinese specializzata in cyberspionaggio. Il team ha preso di mira direttamente OpenAI, inviando e-mail di phishing con allegati dannosi ai dipendenti dell'azienda. Le indagini hanno rivelato che SweetSpecter utilizzava un gruppo di account ChatGPT per effettuare ricerche su script e analisi delle vulnerabilità.

Un altro caso ha coinvolto CyberAv3ngers, un gruppo affiliato al Corpo delle Guardie Rivoluzionarie Islamiche (IRGC) che ha sfruttato ChatGPT per generare credenziali predefinite per controller programmabili, sviluppare script personalizzati e offuscare il codice malevolo. Ha inoltre utilizzato l'IA per pianificare attività post-compromissione e apprendere metodi per rubare password su sistemi macOS.

Il terzo gruppo menzionato nel rapporto è Storm-0817, anch'esso di origine iraniana, che ha impiegato ChatGPT per il debug di malware, la creazione di uno scraper per Instagram e lo sviluppo di un malware personalizzato per la piattaforma Android. Il software malevolo creato con l'aiuto di ChatGPT è in grado di rubare dati sensibili dai dispositivi infetti, tra cui elenchi di contatti, registri delle chiamate e file memorizzati.

Le rivelazioni di OpenAI seguono i sospetti sollevati da altre aziende di sicurezza nei mesi precedenti. Ad aprile, Proofpoint aveva ipotizzato che il gruppo TA547 stesse utilizzando un loader PowerShell generato dall'IA per distribuire l'info-stealer Rhadamanthys. Successivamente, i ricercatori di HP Wolf Security hanno riferito con elevata sicurezza che criminali informatici stavano impiegando strumenti di IA per creare script utilizzati in attacchi multi-fase contro utenti francesi.

OpenAI ha prontamente bandito tutti gli account associati a queste attività illecite e ha condiviso gli indicatori di compromissione, inclusi gli indirizzi IP, con i partner nel settore della sicurezza informatica. L'azienda ha sottolineato che, sebbene l'uso di ChatGPT non abbia fornito ai criminali nuove capacità nello sviluppo di malware, ha reso le operazioni offensive più efficienti anche per attori meno esperti, assistendoli in tutte le fasi dell'attacco, dalla pianificazione all'esecuzione.