L'IA diventa hacker: individuato uno script PowerShell creato con strumenti generativi

L'IA diventa hacker: individuato uno script PowerShell creato con strumenti generativi

L'uso dell'IA come strumento a corredo delle attività di hacker e criminali informatici cambia il panorama della sicurezza informatica, imponendo un nuovo approccio all'analisi e alla ricerca delle minacce

di pubblicata il , alle 10:31 nel canale Sicurezza
Proofpoint
 

Un attore di minaccia noto come TA547 ha condotto una serie di attacchi a diverse aziende in Germania utilizzando uno script PowerShell che è presumibilmente stato creato con l'aiuto di un sistema di intelligenza artificiale generativa come ChatGPT, Gemini o CoPilot.

L'aggressore ha orchesstrato una campagna di phishing, rilevata durante il mese di marzo, che ha preso di mira decine di organizzazioni tedesche allo scopo di diffondere il malware Rhadamanthys, un cosiddetto "information stealer".

E' stata la società di sicurezza informatica Proofpoint ad aver attribuito attribuito l'attacco a TA547, un broker di accesso iniziale (IAB) attivo dal 2017 e noto per fornire una varietà di malware per sistemi Windows e Android. TA547 è anche noto con il nome di Scully Spider.

Un elemento interessante evidenziato dai ricercatori di Proofpoint è il fatto che lo script PowerShell utilizzato per distribuire Rhadamanthys presentava caratteristiche tipiche del codice generato da soluzioni di intelligenza artificiale generativa, come ad esempio commenti meticolosi e ben formattati, elementi spesso assenti nel codice creato dagli sviluppatori umani. Chiaramente ciò non è sufficiente ad essere considerabile come prova dell'uso dell'IA, ma i ricercatori ritengono che vi sia una forte probabilità che lo script sia stato utilizzato usando un LLM. 


Un frammento del codice scritto presumibilmente dall'IA - Fonte: Proofpoint

Non è certo una sorpresa il fatto che l'Intelligenza Artificiale sia uno strumento sfruttato anche dagli attori di minaccia per ottimizzare le loro attività. In precedenza avevamo già sottolineato come le IA generative sono in grado di realizzare email di phishing molto più credibili ed efficaci, ma anche della possibilità di impiegare l'IA per eseguire analisi di ricerca di vulnerabilità.

L'uso di questi strumenti per scrivere codice è solamente il passo successivo, con implicazioni di ampia portata: l'IA può consentire la creazione di malware molto più sofisticato con capacità di offuscamento, automazione e personalizzazione elevate dando modo anche ad hacker e criminali meno esperti di realizzare il proprio arsenale d'attacco.

Uno scenario che imporrà un cambiamento d'approccio anche per i ricercatori di sicurezza che saranno costretti ad evolvere le loro tecniche di analisi e rilevamento - magari sfruttando anch'essi le potenzialità dell'IA - per rispondere efficacemente all'evoluzione delle minacce informatiche.

L'impiego degli strumenti dell'intelligenza artificiale da parte degli attori di minacce sottolinea inoltre l'importanza di una regolamentazione e di un controllo più stringenti su queste tecnologie, al fine di impedirne l'uso improprio e limitare i danni per la società.

6 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
F1r3st0rm11 Aprile 2024, 11:37 #1
quindi scrivere codice ben fatto e con i commenti alposto giusto è indice di uso di IA?
a me pare proprio una str***ata
MikTaeTrioR11 Aprile 2024, 13:07 #2
Originariamente inviato da: F1r3st0rm
quindi scrivere codice ben fatto e con i commenti alposto giusto è indice di uso di IA?
a me pare proprio una str***ata


no è il contrario, codice mal fatto e ben commentato => AI
codice ben fatto e commentato a minghia => umani
codice ben fatto, molto ottimizzato e commentato bene => umani + AI

Unrue11 Aprile 2024, 14:09 #3
Originariamente inviato da: F1r3st0rm
quindi scrivere codice ben fatto e con i commenti alposto giusto è indice di uso di IA?
a me pare proprio una str***ata


Un hacker difficilmente perde tempo ad abbellire il codice quando scrive script malevoli. Mira al sodo. Lì poi ogni riga in pratica è commentata, è un eccesso di documentazione, tipico delle AI che ti propongono un codice.

Non è così inverosimile, ormai le AI scrivono codice tranquillamente, specialmente piccoli script.
zappy11 Aprile 2024, 21:06 #4
Originariamente inviato da: Unrue
Un hacker difficilmente perde tempo ad abbellire il codice quando scrive script malevoli. Mira al sodo. Lì poi ogni riga in pratica è commentata, è un eccesso di documentazione, tipico delle AI che ti propongono un codice.

Non è così inverosimile, ormai le AI scrivono codice tranquillamente, specialmente piccoli script.

quoto.
ma preferisco sempre verificare parametro per parametro e comando per comando cosa ha generato...
Unrue12 Aprile 2024, 07:48 #5
Originariamente inviato da: zappy
quoto.
ma preferisco sempre verificare parametro per parametro e comando per comando cosa ha generato...


Quello sicuro, specialmente se è un malware, sennò magari ti infetta il tuo pc stesso
zappy12 Aprile 2024, 21:19 #6
Originariamente inviato da: Unrue
Quello sicuro, specialmente se è un malware, sennò magari ti infetta il tuo pc stesso


ma anche senza infettare niente... sono giocattoli statistici, non sai bene come mettono insieme i pezzi e da dove li pigliano, per cui sempre meglio capire almeno di massima che non ti infili un format c:\ da qualche parte

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^