CovertLabs lancia l'allarme: 198 app AI su iOS espongono dati personali e chat

Una nuova indagine di sicurezza ha rivelato che decine di applicazioni, molte delle quali legate all'AI e distribuite tramite l'App Store di Apple, stanno esponendo una quantità massiccia di dati personali dei propri utenti a causa di implementazioni grossolane di database e servizi cloud. Tutto è riportato nel progetto Firehound, gestito dal laboratorio di sicurezza CovertLabs, che ha finora censito 198 app iOS con problemi di protezione dei dati, di cui 196 che espongono attivamente informazioni sensibili.

Secondo i ricercatori, la corsa a lanciare rapidamente sul mercato app etichettate come "AI" ha favorito la diffusione di prodotti poco curati dal punto di vista della sicurezza, con architetture server configurate senza adeguati controlli di autenticazione e accesso. Le conseguenze, in molti casi, vanno ben oltre il semplice indirizzo email e coinvolgono cronologie complete di chat e altri dati che gli utenti sono portati a presumere confinati ai propri dispositivi o ai server del fornitore.

Firehound, il database pubblico delle app insicure

Firehound è stato reso disponibile come archivio pubblico che cataloga le applicazioni coinvolte, insieme a dettagli tecnici sui database e sui file esposti, con l'obiettivo di sensibilizzare sviluppatori e utenti sulla fragilità di molte soluzioni AI. Nel database sono incluse analisi delle strutture dei messaggi e dei profili utente compromessi, ma non vengono divulgati pubblicamente i contenuti integrali dei dati per evitare ulteriori abusi.

L'accesso ai dati più sensibili è infatti soggetto a registrazione e a una procedura di approvazione manuale, con accesso prioritario a forze dell'ordine, giornalisti e professionisti della sicurezza informatica, nel rispetto dei principi di "responsible disclosure". All'interno del portale gli sviluppatori delle app coinvolte sono invitati esplicitamente a contattare CovertLabs per ricevere supporto nella correzione dei problemi e, di conseguenza, ottenere la rimozione dell'app dall'elenco.

I casi più gravi: centinaia di milioni di messaggi esposti

Tra le applicazioni considerate più problematiche, la classifica di Firehound evidenzia un'app di chatbot AI che da sola avrebbe esposto oltre 406 milioni di file e record, inclusa la cronologia completa delle conversazioni di più di 18 milioni di utenti.

Il ricercatore noto come "Harris0n", che collabora al progetto Firehound, sottolinea che la natura intrinsecamente sensibile delle richieste rivolte ai chatbot rende particolarmente serio questo tipo di fuga di dati, che può includere informazioni personali, contenuti confidenziali e dettagli potenzialmente imbarazzanti.

Il problema dello sviluppo frettoloso

Sebbene le app legate all’intelligenza artificiale dominino il ranking di Firehound, le vulnerabilità individuate riguardano diverse categorie dell’App Store, dalle app educative a quelle di intrattenimento, fitness e social networking. Nella maggior parte dei casi, il problema non è una falla sofisticata, ma configurazioni di backend lasciate esposte su Internet senza autenticazione, sistemi di storage cloud impostati come pubblici o endpoint API non protetti, in linea con quanto già visto in precedenti incidenti che hanno coinvolto app di companion AI su altre piattaforme.

Questi episodi confermano un pattern ricorrente nel settore: l’adozione rapida di tecnologie AI viene spesso accompagnata da pratiche di sviluppo sommarie, che sacrificano la progettazione della sicurezza su scala e la protezione dei dati a favore del velocità di uscita sul mercato. Per gli utenti finali, questo si traduce in un rischio che non dipende tanto dalla qualità del modello di AI sottostante, quanto dalla maturità e dalla disciplina dei team che costruiscono l’infrastruttura applicativa.

Il ruolo di Apple e cosa possono fare gli utenti

Il caso Firehound riapre il dibattito sul livello di controllo che i gestori degli store, Apple in primis, esercitano sulla sicurezza delle app che ospitano, soprattutto in un momento in cui le linee guida di App Store iniziano a citare esplicitamente l'uso di AI e la necessità di ottenere consenso chiaro per la condivisione di dati con servizi di terze parti. Pur non trattandosi di un problema diretto delle tecnologie AI, l’episodio mette in luce come i meccanismi di revisione possano non intercettare configurazioni server pericolose che emergono solo in fase di esercizio su larga scala.

Il suggerimento che si può condividere per l'utente finale è quello di prestare massima attenzione ed esercitare prudenza nella condivisione di dati sensibili e riservati con chatbot e servizi AI, specialmente quando si tratta di app di piccoli sviluppatori indipendenti. Al momento si può utilizzare Firehound per verificare se le app utilizzate siano tra quelle rilevate come vulnerabili.

In un contesto in cui il marchio "AI" è sempre più usato come leva di marketing, la presenza della sigla nel nome di un'app non è di per sé garanzia di affidabilità, e l'attenzione alla privacy resta un elemento essenziale da valutare prima dell'installazione.