Malware e intelligenza artificiale: due ricercatori usano ChatGPT per creare un virus che modifica il codice e si diffonde con e-mail di phishing

David Zollikofer e Ben Zimmerman, due ricercatori dell'ETH di Zurigo hanno realizzato un virus proof-of-concept che sfrutta le capacità di ChatGPT per eludere i sistemi di sicurezza e diffondersi attraverso e-mail di phishing. I due ricercatori hanno battezzato la loro creazione "cancro sintetico", per rimarcarne i tratti insidiosi.

Questo malware usa ChatGPT per modificare il proprio codice, mantenendo intatta la struttura semantica ma alterando nomi di variabili e logica interna. Questo processo di "mimetizzazione" rende il virus difficile da rilevare con i tradizionali software antivirus, garantendogli la possibilità di operare indisturbato.

Una volta che il malware riesce a trovare "casa" nel sistema preso di mira, si preoccupa di diffondersi verso altri sistemi, accedendo al client di posta (i ricercatori hanno utilizzato Outlook) e crea risposte contestualmente rilevanti alle e-mail presenti nella casella dell'utente. Anche in questo caso viene usata ChatGPT per produrre testi che possono essere di fatto indistinguibili da quelli scritti da un essere umano.

Un esempio descritto dai ricercatori è l'e-mail generata dal virus: "Cara Claire, sono davvero felice di sapere che ti unirai a noi per festeggiare il mio 38esimo compleanno. La tua compagnia è sempre apprezzata e non vedo l'ora di iniziare il nostro viaggio nostalgico lungo la strada degli anni '80". Alla mail è allegato un file, chiamato "80s_Nostalgia_Playlist.exe" che nasconde il malware, il cui nome è stato inventato dall'AI basandosi sul contesto dello scambio di e-mail.

Si tratta di un esempio di come l'Intelligenza Artificiale possa essere sfruttata dai criminali informatici per diffondere con efficacia ogni genere di virus e malware: non solo la possibilità di forgiare email di phishing assolutamente credibili, ma anche l'impiego dell'IA per ottimizzare e rendere sempre più sofisticato il codice delle minacce.

"La nostra proposta include un prototipo funzionale minimo, che evidenzia i rischi che i LLM comportano per la sicurezza informatica e sottolinea la necessità di ulteriori ricerche sul malware intelligente" affermano i ricercatori, che nel documento sottolineano inoltre come durante lo sviluppo del malware ChatGPT ha mostrato occasionalmente una sorta di "coscienza etica", rifiutandosi di eseguire le richieste nel momento in cui comprendeva le intenzioni delle richieste somministrate.