Google porta l'AI offline sullo smartphone: arriva AI Edge Gallery, l'app che non ha bisogno di internet

Google ha rilasciato senza fanfare una nuova applicazione per Android che potrebbe cambiare il modo in cui usiamo l’intelligenza artificiale. AI Edge Gallery consente di eseguire modelli linguistici direttamente sul proprio smartphone, senza connessione internet e senza inviare alcun dato a server esterni.

L'applicazione, pubblicata su GitHub con licenza Apache 2.0, è compatibile al momento con Android e supporta modelli come Gemma 3n, disponibili in vari formati e dimensioni (da circa 554 MB a oltre 4,4 GB). Una volta scaricato un modello, tutto avviene localmente: domande, risposte, elaborazioni testuali e analisi di immagini vengono eseguite dal processore del telefono.

AI Edge Gallery include tre strumenti principali:

• AI Chat per interazioni testuali;
• Ask Image per analizzare contenuti visivi;
• Prompt Lab per attività testuali singole, come riscrittura o riassunti.

L'app si rivolge soprattutto a sviluppatori e utenti esperti, ma l'interfaccia è già sorprendentemente solida. I test condotti su uno Samsung Galaxy S24 Ultra mostrano che anche i modelli più piccoli garantiscono prestazioni fluide: oltre 20 token al secondo su CPU, con valori anche superiori su GPU. Le prestazioni calano con i modelli più grandi, ma restano utilizzabili, in linea con quelle viste al debutto di GPT-3.5.

Oltre alla qualità della risposta, il punto forte è la privacy. Nessun dato viene trasmesso all’esterno: tutto ciò che si scrive o carica rimane sul dispositivo. È un aspetto centrale per categorie professionali che trattano contenuti sensibili, come medici, giornalisti o tecnici in trasferta. Anche chi si trova in zone senza copertura può contare su un'assistente AI completo, in grado di operare completamente offline.

Ci sono anche dei limiti. L'app accetta soltanto modelli in formato .task e non in .safetensor, ormai diventato lo standard per gran parte degli LLM disponibili online. Questo limita le possibilità di personalizzazione e rende difficile usare modelli alternativi, anche se la conversione tra i due formati è tecnicamente possibile. Inoltre, il contesto di 4096 token può risultare ristretto per compiti complessi, e l'uso prolungato può avere un impatto rilevante sulla batteria.

L'integrazione con formati più aperti come .safetensor potrebbe ampliare notevolmente il potenziale dell’app, che già oggi rappresenta uno degli ambienti più completi e reattivi per far girare modelli AI direttamente su smartphone. Ad ogni modo, nonostante queste restrizioni, AI Edge Gallery si presenta come un passo deciso verso un utilizzo dell’intelligenza artificiale più autonomo, meno dipendente dal cloud e più rispettoso dei dati personali.

Per chi vuole sperimentare senza limiti di abbonamenti o timori per la privacy, questa è una strada decisamente invitante da percorrere. E, a quanto pare, siamo solo all’inizio.