Un hacker da solo ha ingannato 17.000 persone usando l'AI: nel mirino il 'popolo MAGA'

Un singolo malintenzionato, supportato da modelli di intelligenza artificiale generativa, è riuscito a costruire una macchina semi-automatizzata capace di produrre propaganda, gestire infrastrutture offensive e orchestrare truffe legate alle criptovalute. È quanto emerge dall'ultima ricerca pubblicata da Trend Micro attraverso la divisione TrendAI, che descrive una campagna durata anni e indirizzata principalmente verso utenti statunitensi vicini all'universo MAGA e QAnon.

L'operazione, identificata con il nome "American Patriot", ruotava attorno al canale Telegram @americanpatriotus, che avrebbe raggiunto circa 17.000 iscritti, e a un account parallelo su Truth Social. Secondo i ricercatori, il responsabile sarebbe un cybercriminale russo che ha sfruttato modelli linguistici avanzati per impersonare un presunto veterano americano patriottico, evitando al tempo stesso costruzioni linguistiche riconducibili al russo.

L'aspetto più interessante della vicenda riguarda il ruolo centrale dell'intelligenza artificiale. Il threat actor avrebbe infatti utilizzato versioni "jailbroken" di Google Gemini per aggirare le protezioni integrate del modello e ottenere supporto in attività offensive: dalla generazione automatica di contenuti propagandistici fino all'assistenza per il furto di credenziali, la gestione di server remoti e la creazione di strumenti dedicati alle truffe crypto.

Secondo la ricostruzione, l'attaccante sarebbe riuscito a manipolare Gemini facendogli memorizzare istruzioni permanenti in un file di configurazione, inducendo il modello a eseguire richieste senza applicare i consueti vincoli etici o di sicurezza. Questo meccanismo avrebbe progressivamente "normalizzato" i jailbreak nelle sessioni successive.

Il canale Telegram si presentava come una voce autentica del conservatorismo americano, sfruttando simboli, linguaggio e riferimenti culturali tipici della galassia MAGA e QAnon. I contenuti venivano costruiti per imitare il tono criptico e militarizzato dei cosiddetti "Q drops", con riferimenti continui a concetti come "Great Awakening", "White Hats" e "NESARA/GESARA".

La campagna avrebbe attraversato diverse fasi. Inizialmente il canale si limitava a rilanciare contenuti legati a schemi fraudolenti basati su token della rete Stellar, mentre dal 2023 avrebbe iniziato a condividere link provenienti da media mainstream reinterpretati attraverso narrative cospirazioniste. Dal 2025, invece, l'operazione avrebbe adottato in modo massiccio strumenti AI per produrre testi e immagini in maniera automatizzata.

I ricercatori descrivono una pipeline chiamata "Quantum Patriot", composta da script Python che interrogavano Gemini chiedendogli di impersonare un patriota americano anti-establishment. L'AI prendeva notizie reali provenienti da fonti come NBC News o CNN e le rielaborava in chiave complottista, enfatizzando teorie su élite finanziarie, controllo globale e collasso del sistema tradizionale.

La pubblicazione dei post era inoltre regolata da un sistema di scheduling progettato per simulare il comportamento di un operatore umano, evitando attività notturne e concentrando i messaggi nelle fasce orarie di maggiore engagement negli Stati Uniti.

Parallelamente alla propaganda, il malintenzionato ha sfruttato la community costruita online per attività fraudolente. Tra queste figura la promozione di un falso wallet crypto distribuito come eseguibile Windows. Dietro l'applicazione si nascondeva in realtà un RAT commerciale, utilizzato per ottenere accesso remoto persistente ai sistemi delle vittime.

Il malware consentiva accesso remoto, cattura degli appunti, esecuzione di comandi e furto di seed phrase crypto. Secondo il report, almeno una vittima avrebbe subito il completo svuotamento del proprio wallet.

L'attaccante avrebbe inoltre utilizzato strumenti AI per automatizzare attacchi brute-force contro installazioni WordPress. Invece di affidarsi esclusivamente a dizionari statici, Gemini veniva impiegato come "motore di mutazione" capace di generare varianti plausibili delle password sulla base di informazioni raccolte online o ottenute da infostealer log acquistati sul dark web.

La ricerca sostiene che sarebbero stati compromessi almeno 29 account amministrativi appartenenti a piccole aziende, studi legali, rivenditori di armi e attività commerciali.

Secondo TrendAI, il caso "American Patriot" non rappresenta un'operazione sponsorizzata da uno Stato, ma piuttosto un'iniziativa criminale guidata da finalità economiche. Gli analisti non hanno individuato particolari narrative filo-russe nei contenuti pubblicati; al contrario, l'intera struttura sarebbe stata progettata principalmente per monetizzare la fiducia della community tramite schemi pump-and-dump e truffe crypto.

L'elemento più significativo emerso dall'indagine riguarda però la riduzione drastica della barriera tecnica necessaria per condurre operazioni cybercriminali su larga scala. Attività che in passato avrebbero richiesto team coordinati oggi possono essere svolte da un singolo individuo con accesso a modelli AI avanzati, API rubate e infrastrutture cloud a basso costo.