IA su iPhone, iPad e Mac: l'obiettivo di Apple è elaborare tutto in locale
Negli ultimi anni Apple ha intensificato gli sforzi nel campo dell'intelligenza artificiale, con acquisizioni mirate di startup, assunzioni di personale specializzato e aggiornamenti hardware. L'obiettivo è eseguire modelli di IA avanzata, come quelli generativi, direttamente sui dispositivi mobili.
di Nino Grasso pubblicata il 25 Gennaio 2024, alle 12:01 nel canale AppleAppleiPhoneiOSmacOS
Se da una parte risulta piuttosto strano il silenzio di Apple intorno al terremoto dell'IA generativa in corso ormai da un anno, dall'altra l'azienda ha investito parecchio verso la direzione di tecnologie affini.
L'azienda sta silenziosamente ma incessantemente rafforzando le proprie capacità nel settore, e l'obiettivo è integrare funzionalità avanzate di IA nei suoi prodotti, in particolare iPhone. Lo scopo finale è permettere l'esecuzione di modelli linguistici di grandi dimensioni (Large Language Models, LLM) direttamente sui dispositivi mobili, senza necessità di connettività cloud come abbiamo visto di recente sui nuovi Galaxy S24.
Apple e l'IA generativa: l'ambizione è di eseguire tutto in locale
Ha approfondito l'argomento il Financial Times all'interno di una corposa e interessante analisi. Secondo dati di settore, dall'inizio del 2017 Cupertino ha acquisito 21 startup attive nel campo dell'intelligenza artificiale, l'ultima delle quali all'inizio di quest'anno. Parallelamente, inoltre, sta assumendo numerosi esperti di deep learning, aumentando così le competenze interne. Di recente, ad esempio, Morgan Stanley ha scoperto che quasi la metà degli avvisi di ricerca del personale della Mela includono il termine Deep Learning, mentre nel 2018 l'azienda ha assunto John Giannandrea, alto dirigente di Google proprio in materia di intelligenza artificiale.
L'interesse sembra focalizzato proprio sui modelli generativi di intelligenza artificiale, come GPT di OpenAI, in grado di produrre testi, audio e codice in modo autonomo. Apple starebbe lavorando a un proprio modello proprietario, ma finora è stata piuttosto riservata sui piani in quest'area, a differenza dei rivali quali Google, Amazon e Microsoft che hanno investito diversi miliardi di dollari e continuano a farlo. C'è da dire che Tim Cook ha dichiarato esplicitamente di recente che l'azienda "ha svolto ricerche su un'ampia gamma di tecnologie di intelligenza artificiale", specificando che l'approccio è sempre stato "responsabile".
Non sappiamo però quali sono i piani, nello specifico. Apple di recente ha rilasciato un framework e librerie di machine learning ottimizzati per essere eseguiti sui chip Apple Silicon, e ha messo a punto tecniche per elaborare l'IA in locale anche su dispositivi con limiti nella memoria RAM integrata. La sfida principale della Mela è rendere questi sofisticati sistemi di IA utilizzabili su iPhone e device portatili, senza la necessità di connessione a servizi cloud. Ciò richiede da un lato la compressione dei modelli, dall'altro hardware dedicato potente. E proprio su questi due fronti Apple sta facendo passi avanti.
I nuovi processori di iPhone, Apple Watch e dei computer Mac vantano ormai da tempo caratteristiche pensate per eseguire al meglio applicazioni di IA in locale. Gli occhi sono tutti puntati verso la prossima WWDC, dove ci si aspetta che Apple annunci nuove funzionalità di IA generativa intorno a Siri, potenziate proprio da un LLM proprietario. L'assistente vocale potrebbe quindi utilizzare modelli linguistici per comprendere meglio le richieste e fornire risposte più pertinenti e naturali, attingendo da un database di conoscenza disponibile in locale, sullo smartphone.
L'obiettivo è potenziarne le capacità mantenendo però il pieno controllo dell'esperienza utente, senza dipendere in alcun modo dal cloud. Sarà da vedere, però, se l'implementazione risulterà efficace in maniera simile a quella dei modelli - di OpenAI, Google e altri - che abbiamo già avuto modo di conoscere e apprezzare negli ultimi mesi.
14 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoBrave Apple, se dalle parole seguiranno i fatti !
Sono perfettamente d'accordo.
Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?
C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?
Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?
C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?
il funzionamento offline e una maggiore reattività della ia
E' il trend del periodo, Apple non può rimanere indietro. Un'architettura cloud probabilmente costa molto di più e così facendo riesce a "scaricarla" un bel pò.
OK.
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..
Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..
Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..
l'IA attuale, che si basa su LLM, ha bisogno di macinare un macello di dati per funzionare, e per farlo deve attingere ai dati "di tutti" in barba alla privacy.
visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.
minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".
quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.
THIS
Sono perfettamente d'accordo.
I fatti dicono che per avere un IA on device con servizi simili a Copilot e Bard, bisogna avere una NPU con una potenza di calcolo di almeno 25 TOPS, l'optimum sarebbero i 40 TOPS come affermato da Microsoft nella stesura delle specifiche per l'IA Pc.
M3 ( liscio, Pro e Max ) arriva a 18,5 TOPS, mentre il costoso M2 Ultra ( un Max X 2 ) si attesta intorno ai 32 TOPS grazie a 2 NPU.
Tutto ciò si traduce in una attesa di almeno un anno e mezzo visto che i primi SoC Apple a 2nm arriveranno entro il primo trimestre 2025 ( TSMC prevede di produrre wafer con il primo processo a 2nm nella seconda metà di quest'anno salvo ritardi ).
Quindi i prossimi OS saranno ancora incentrati più sul machine learning piuttosto che su un modello di IA più avanzato, poi si starà a vedere...
Intanto il primo treno Apple l'ha perso.
visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.
minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".
quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.
Questo è un altro valido aspetto da considerare visto che orami le innovazioni su iPhone si sono ridotte ai tasti programmabili...
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".