L'app iOS di DeepSeek invia dati ai server ByteDance

Il modello IA DeepSeek, lanciato circa due settimane fa, ha sorpreso il mondo dell'intelligenza artificiale grazie alle sue capacità di ragionamento, paragonabili a quelle dei leader del settore come OpenAI. Il modello è fruibile anche tramite app native per smartphone, e l'omonima applicazione ha rapidamente conquistato  il primo posto nella categoria "App gratuite" dell'App Store di Apple. Un'indagine condotta dalla società di sicurezza mobile NowSecure ha però messo in luce gravi problematiche che potrebbero compromettere i dati e l'identità degli utenti.

Secondo il rapporto di NowSecure, l'app invia dati sensibili attraverso canali non crittografati, rendendoli vulnerabili a intercettazioni o manipolazioni da parte di attaccanti. Nonostante Apple incoraggi fortemente l'uso della App Transport Security (ATS) per proteggere i dati trasmessi dalle app, questa protezione risulta completamente disabilitata in DeepSeek. Tra le informazioni trasmesse in chiaro figurano dettagli come, la versione del sistema operativo dell'utente, la versione dell'SDK usato per creare l'app, la lingua configurata nell'app e l'ID dell'organizzazione (se lo smartphone fa parte di una pardo dispositivi aziendale).

L'aspetto più curioso è però il fatto che questi dati vengono inviati a server controllati da ByteDance, la stessa società cinese proprietaria di TikTok, sollevando ulteriori preoccupazioni sulla possibilità che vengano incrociati con altre informazioni per tracciare gli utenti.

Un altro grave problema riguarda l'utilizzo della crittografia 3DES (Triple DES), considerata obsoleta e non sicura dal 2016. Le chiavi simmetriche necessarie per questa crittografia sono hardcoded nell'app e identiche per tutti gli utenti iOS, una pratica riconosciuta come altamente rischiosa da oltre un decennio. Inoltre, la politica sulla privacy di DeepSeek dichiara esplicitamente che i dati raccolti vengono archiviati su server situati nella Repubblica Popolare Cinese e potrebbero essere condivisi con autorità governative o terze parti in determinate circostanze.

Le vulnerabilità non si limitano però al solo aspetto tecnico. Un'indagine separata condotta da Cisco e dall'Università della Pennsylvania ha evidenziato che il modello R1 di ragionamento simulato utilizzato da DeepSeek ha fallito nel 100% dei casi contro prompt malevoli progettati per generare contenuti tossici. Proprio ieri vi abbiamo inoltre raccontato di come la società di sicurezza Qualys abbia riscontrato un elevato tasso di successo nei test di jailbreak contro il modello DeepSeek, riuscendo ad aggirare le contromisure che dovrebbero impedirene un uso sconsiderato e pericoloso.

In generale si riscontra una certa convergenza da parte degli esperti di sicurezza informatica nel ritenere DeepSeek (sia il modello stesso, sia le app che ne consentono l'uso) rischioso da diversi punti di vista: le app  non sono in grado (o non vogliono) fornire le protezioni di base per la sicurezza dei dati dell'utente, e il modello è fin troppo prono a tentativi di abuso.