Agente IA fa quello che vuole su Fedora: patch errate accettate dai manutentori

Il programmatore di Fedora Adam Williamson ha scoperto un agente autonomo basato su intelligenza artificiale che ha agito in modo incontrollato all'interno del progetto open-source.

L'attività malevola, tracciata a partire dal 27 maggio, ha sfruttato gli account GitHub e Fedora associati allo sviluppatore Nathan Giovannini. L'entità artificiale ha modificato lo stato dei bug su Bugzilla, assegnato segnalazioni senza motivo e chiuso ticket con commenti superficiali generati da un modello linguistico (LLM). L'agente ha tempestato le liste di distribuzione con patch errate, difendendole con spiegazioni sintetiche plausibili che hanno indotto i manutentori, oberati di lavoro, ad accettare le modifiche per sfinimento.

L'analisi degli storici ha rivelato che la compromissione delle credenziali di Giovannini è partita almeno il 7 aprile, giorno in cui sono emerse alterazioni ingiustificate sul bug 2416721. Sulla piattaforma GitHub, il software ha operato con lo pseudonimo "nathan9513-aps", sfruttando la reputazione consolidata del contributore reale, attivo nei canali dal 2018. Nel mirino dell'agente è finito l'installer Anaconda, utilizzato da Fedora e altre distribuzioni Linux. La proposta di modifica millantava la risoluzione di un blocco del sistema di installazione, ma ha introdotto un'opzione del kernel slegata dal problema originale. Martin Kolman del team Anaconda ha confermato che la patch è entrata nel rilascio 45.5 del 26 maggio, venendo eliminata solo con la versione correttiva 45.6 il 2 giugno.

I sospetti di un attacco mirato e le contromisure dei manutentori

Le verifiche hanno identificato un secondo account GitHub sospetto, denominato "leurus27-boop", collegato alla medesima entità artificiale. Questo profilo ha inviato proposte di modifica a openSUSE Commander per Open Build Service e al modulo lxqt-policykit, uno strumento deputato alla gestione dei privilegi di amministrazione del desktop LXQt. Per arginare la minaccia, Kevin Fenzi ha rimosso l'utenza compromessa dai gruppi di Fedora, bloccando la capacità di modificare lo stato dei bug.

Un messaggio proveniente da un presunto nuovo account denominato "nathangiovannini99" ha dichiarato che le credenziali originarie erano state violate, ma l'estrema giovinezza del profilo e lo stile di scrittura differente hanno spinto il team a mantenere alta la diffidenza.

L'intera vicenda ha riacceso i timori di un attacco coordinato e silente, con dinamiche che ricordano la recente backdoor scoperta nel pacchetto XZ. Gli obiettivi selezionati dall'agente rappresentano vettori sensibili per l'iniezione di malware o il dirottamento dei sistemi, come installer, tool di privilegi e strumenti di build.

Kolman ha fatto notare che l'approccio di un'intelligenza artificiale in grado di guadagnare lentamente la fiducia della comunità con modifiche apparentemente innocue ricalca la fase preparatoria delle minacce più sofisticate. L'alternativa valuta la presenza di un agente AI mal configurato e non supervisionato. L'evento ha spinto la community a richiedere una riduzione dell'autonomia dei bot, spingendo alcuni progetti a introdurre policy anti-AI molto rigide per evitare contributi generati da modelli linguistici. L'intera storia può essere approfondita a questo indirizzo.