IA su iPhone, iPad e Mac: l'obiettivo di Apple è elaborare tutto in locale

IA su iPhone, iPad e Mac: l'obiettivo di Apple è elaborare tutto in locale

Negli ultimi anni Apple ha intensificato gli sforzi nel campo dell'intelligenza artificiale, con acquisizioni mirate di startup, assunzioni di personale specializzato e aggiornamenti hardware. L'obiettivo è eseguire modelli di IA avanzata, come quelli generativi, direttamente sui dispositivi mobili.

di pubblicata il , alle 12:01 nel canale Apple
AppleiPhoneiOSmacOS
 

Se da una parte risulta piuttosto strano il silenzio di Apple intorno al terremoto dell'IA generativa in corso ormai da un anno, dall'altra l'azienda ha investito parecchio verso la direzione di tecnologie affini.

L'azienda sta silenziosamente ma incessantemente rafforzando le proprie capacità nel settore, e l'obiettivo è integrare funzionalità avanzate di IA nei suoi prodotti, in particolare iPhone. Lo scopo finale è permettere l'esecuzione di modelli linguistici di grandi dimensioni (Large Language Models, LLM) direttamente sui dispositivi mobili, senza necessità di connettività cloud come abbiamo visto di recente sui nuovi Galaxy S24.

Apple e l'IA generativa: l'ambizione è di eseguire tutto in locale

Ha approfondito l'argomento il Financial Times all'interno di una corposa e interessante analisi. Secondo dati di settore, dall'inizio del 2017 Cupertino ha acquisito 21 startup attive nel campo dell'intelligenza artificiale, l'ultima delle quali all'inizio di quest'anno. Parallelamente, inoltre, sta assumendo numerosi esperti di deep learning, aumentando così le competenze interne. Di recente, ad esempio, Morgan Stanley ha scoperto che quasi la metà degli avvisi di ricerca del personale della Mela includono il termine Deep Learning, mentre nel 2018 l'azienda ha assunto John Giannandrea, alto dirigente di Google proprio in materia di intelligenza artificiale.

L'interesse sembra focalizzato proprio sui modelli generativi di intelligenza artificiale, come GPT di OpenAI, in grado di produrre testi, audio e codice in modo autonomo. Apple starebbe lavorando a un proprio modello proprietario, ma finora è stata piuttosto riservata sui piani in quest'area, a differenza dei rivali quali Google, Amazon e Microsoft che hanno investito diversi miliardi di dollari e continuano a farlo. C'è da dire che Tim Cook ha dichiarato esplicitamente di recente che l'azienda "ha svolto ricerche su un'ampia gamma di tecnologie di intelligenza artificiale", specificando che l'approccio è sempre stato "responsabile".

Non sappiamo però quali sono i piani, nello specifico. Apple di recente ha rilasciato un framework e librerie di machine learning ottimizzati per essere eseguiti sui chip Apple Silicon, e ha messo a punto tecniche per elaborare l'IA in locale anche su dispositivi con limiti nella memoria RAM integrata. La sfida principale della Mela è rendere questi sofisticati sistemi di IA utilizzabili su iPhone e device portatili, senza la necessità di connessione a servizi cloud. Ciò richiede da un lato la compressione dei modelli, dall'altro hardware dedicato potente. E proprio su questi due fronti Apple sta facendo passi avanti.

I nuovi processori di iPhone, Apple Watch e dei computer Mac vantano ormai da tempo caratteristiche pensate per eseguire al meglio applicazioni di IA in locale. Gli occhi sono tutti puntati verso la prossima WWDC, dove ci si aspetta che Apple annunci nuove funzionalità di IA generativa intorno a Siri, potenziate proprio da un LLM proprietario. L'assistente vocale potrebbe quindi utilizzare modelli linguistici per comprendere meglio le richieste e fornire risposte più pertinenti e naturali, attingendo da un database di conoscenza disponibile in locale, sullo smartphone.

L'obiettivo è potenziarne le capacità mantenendo però il pieno controllo dell'esperienza utente, senza dipendere in alcun modo dal cloud. Sarà da vedere, però, se l'implementazione risulterà efficace in maniera simile a quella dei modelli - di OpenAI, Google e altri - che abbiamo già avuto modo di conoscere e apprezzare negli ultimi mesi.

14 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Saturn25 Gennaio 2024, 12:03 #1
Originariamente inviato da: Redazione di Hardware Upgrade
L'obiettivo è potenziarne le capacità mantenendo però il pieno controllo dell'esperienza utente, senza dipendere in alcun modo dal cloud.


Brave Apple, se dalle parole seguiranno i fatti !

Sono perfettamente d'accordo.
demon7725 Gennaio 2024, 12:21 #2
Devo ammettere che questa posizione presa da Apple mi sorprende abbastanza..

Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?

C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?
!fazz25 Gennaio 2024, 12:25 #3
Originariamente inviato da: demon77
Devo ammettere che questa posizione presa da Apple mi sorprende abbastanza..

Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?

C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?


il funzionamento offline e una maggiore reattività della ia
DjLode25 Gennaio 2024, 12:26 #4
La nuova IA Google non funziona offline? Mi pare di aver capito così dalla presentazione dei nuovi Galaxy.
E' il trend del periodo, Apple non può rimanere indietro. Un'architettura cloud probabilmente costa molto di più e così facendo riesce a "scaricarla" un bel pò.
demon7725 Gennaio 2024, 12:29 #5
Originariamente inviato da: !fazz
il funzionamento offline e una maggiore reattività della ia


OK.
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..

Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..
megamitch25 Gennaio 2024, 12:46 #6
Semplice: se sposti la potenza di calcolo sul dispositivo hai una scusa in più per rendere un terminale obsoleto prima.
insane7425 Gennaio 2024, 12:47 #7
Originariamente inviato da: demon77
OK.
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..

Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..


l'IA attuale, che si basa su LLM, ha bisogno di macinare un macello di dati per funzionare, e per farlo deve attingere ai dati "di tutti" in barba alla privacy.

visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.

minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".

quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.
MorgaNet25 Gennaio 2024, 12:57 #8
Originariamente inviato da: megamitch
Semplice: se sposti la potenza di calcolo sul dispositivo hai una scusa in più per rendere un terminale obsoleto prima.


THIS
AlexSwitch25 Gennaio 2024, 13:05 #9
Originariamente inviato da: Saturn
Brave Apple, se dalle parole seguiranno i fatti !

Sono perfettamente d'accordo.


I fatti dicono che per avere un IA on device con servizi simili a Copilot e Bard, bisogna avere una NPU con una potenza di calcolo di almeno 25 TOPS, l'optimum sarebbero i 40 TOPS come affermato da Microsoft nella stesura delle specifiche per l'IA Pc.
M3 ( liscio, Pro e Max ) arriva a 18,5 TOPS, mentre il costoso M2 Ultra ( un Max X 2 ) si attesta intorno ai 32 TOPS grazie a 2 NPU.
Tutto ciò si traduce in una attesa di almeno un anno e mezzo visto che i primi SoC Apple a 2nm arriveranno entro il primo trimestre 2025 ( TSMC prevede di produrre wafer con il primo processo a 2nm nella seconda metà di quest'anno salvo ritardi ).
Quindi i prossimi OS saranno ancora incentrati più sul machine learning piuttosto che su un modello di IA più avanzato, poi si starà a vedere...
Intanto il primo treno Apple l'ha perso.
AlexSwitch25 Gennaio 2024, 13:07 #10
Originariamente inviato da: insane74
l'IA attuale, che si basa su LLM, ha bisogno di macinare un macello di dati per funzionare, e per farlo deve attingere ai dati "di tutti" in barba alla privacy.

visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.

minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".

quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.


Questo è un altro valido aspetto da considerare visto che orami le innovazioni su iPhone si sono ridotte ai tasti programmabili...

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^