Un malware AI ha superato le difese di Microsoft Defender: milioni di PC a rischio?

L'intelligenza artificiale non è soltanto uno strumento utile per la creatività e la produttività: in mani sbagliate, può diventare un'arma temibile anche nel campo della sicurezza informatica.

È quanto emerge da una nuova ricerca che sarà presentata durante la conferenza Black Hat 2025 a Las Vegas, in cui un team di esperti mostrerà un malware generato da un modello AI capace di eludere Microsoft Defender per Endpoint circa l'8% delle volte.

Il progetto è frutto del lavoro di Kyle Avery, specialista presso la società di sicurezza informatica Outflank. Avery ha addestrato un modello linguistico open source (Qwen 2.5) utilizzando tecniche di reinforcement learning, investendo circa 1.500-1.600 dollari e impiegando tre mesi di lavoro. Il risultato è un sistema capace di aggirare la protezione offerta da uno dei software antivirus più diffusi al mondo, preinstallato su oltre un miliardo di dispositivi Windows 10 e 11.

"Non è qualcosa che il modello sa fare 'out of the box'. Una volta su mille potrebbe creare un malware funzionante, ma che non elude alcun sistema di sicurezza" ha spiegato Avery. "Ma premiandolo ogni volta che riesce a produrre qualcosa di funzionante, il modello diventa sempre più bravo a replicare quel processo mentale che porta al risultato".

Il ricercatore ha inserito il modello in un ambiente controllato (sandbox) e ha costruito un sistema che valuta l'efficacia dell'output AI nel generare codice malevolo capace di eludere i controlli di Microsoft Defender. Col tempo, il modello ha imparato a identificare strutture e pattern di codice meno rilevabili. Avery ha inoltre integrato un'API per facilitare l'analisi delle risposte di Defender e affinare ulteriormente le capacità evasive del malware.

Secondo quanto riportato da Dark Reading, i risultati sono significativi: l'8% di evasione rappresenta un enorme miglioramento rispetto a quanto ottenibile oggi con LLM generalisti. Per fare un confronto, Claude di Anthropic è riuscito a raggiungere meno dell'1%, mentre il modello DeepSeek R1 si è fermato all'1,1%.

Anche se la percentuale può sembrare ridotta, su scala globale rappresenterebbe una minaccia considerevole: su 1,4 miliardi di dispositivi Windows, un malware AI distribuito su larga scala potrebbe potenzialmente compromettere oltre 11 milioni di PC.

L'intero sistema si basa su tecnologie e modelli accessibili pubblicamente, aprendo la porta alla creazione di kit di hacking AI "plug-and-play" facilmente replicabili. Il contesto è particolarmente delicato in un momento in cui gli attori malevoli stanno già sperimentando metodi creativi per abbassare le difese di strumenti come ChatGPT, ad esempio inducendolo a generare chiavi di attivazione di Windows o altri contenuti sensibili.

Con la crescente adozione dell'AI, le minacce informatiche si stanno facendo più sofisticate. La speranza, ora, è che Microsoft prenda sul serio quanto sarà mostrato a Las Vegas e implementi contromisure adeguate in vista di uno scenario che sembrava lontano nel tempo ma, forse, non lo è affatto.