IA su iPhone, iPad e Mac: l'obiettivo di Apple è elaborare tutto in locale

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/apple/...le_123721.html

Negli ultimi anni Apple ha intensificato gli sforzi nel campo dell'intelligenza artificiale, con acquisizioni mirate di startup, assunzioni di personale specializzato e aggiornamenti hardware. L'obiettivo è eseguire modelli di IA avanzata, come quelli generativi, direttamente sui dispositivi mobili.

Click sul link per visualizzare la notizia.

[Saturn]

Originariamente inviato da Redazione di Hardware Upgrade

L'obiettivo è potenziarne le capacità mantenendo però il pieno controllo dell'esperienza utente, senza dipendere in alcun modo dal cloud.

Brave Apple, se dalle parole seguiranno i fatti !

Sono perfettamente d'accordo.

[demon77]

Devo ammettere che questa posizione presa da Apple mi sorprende abbastanza..

Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?

C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?

[!fazz]

Originariamente inviato da demon77

Devo ammettere che questa posizione presa da Apple mi sorprende abbastanza..

Da utente sono favorevole ad una IA che è in grado di esistere direttamente in locale sul dispositivo denza dover dipendere da servizi esterni.
..ma ad Apple che gli frega? Che ci guadagna?

C'è pure da dire che una IA che può contare su un supporto cloud da remoto ha molta più potenza e miggliori aggiornamenti che non siano legati alla potenza di calcolo del dispositivo..
Il che rende ancora più pressante la mia domanda.. ad Apple che gli frega? Che ci guadagna?

il funzionamento offline e una maggiore reattività della ia

[DjLode]

La nuova IA Google non funziona offline? Mi pare di aver capito così dalla presentazione dei nuovi Galaxy.
E' il trend del periodo, Apple non può rimanere indietro. Un'architettura cloud probabilmente costa molto di più e così facendo riesce a "scaricarla" un bel pò.

[demon77]

Originariamente inviato da !fazz

il funzionamento offline e una maggiore reattività della ia

OK.
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..

Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..

[megamitch]

Semplice: se sposti la potenza di calcolo sul dispositivo hai una scusa in più per rendere un terminale obsoleto prima.

[insane74]

Originariamente inviato da demon77

OK.
Ma è anche vero che se una IA via cloud ha a disposizione la potenza di elaborazione di un supercomputer dedicato de in continua crescita la IA dello smartphone può contare solo sulla potenza del SOC dello smartphone.. questo influenza per forza le prestazioni..

Cioè.. io penso che sia meglio una IA magari meno "reattiva" ma più "sveglia" nel fornire risultati migliori e capire meglio quello che chiedo..

l'IA attuale, che si basa su LLM, ha bisogno di macinare un macello di dati per funzionare, e per farlo deve attingere ai dati "di tutti" in barba alla privacy.

visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.

minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".

quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.

[MorgaNet]

Originariamente inviato da megamitch

Semplice: se sposti la potenza di calcolo sul dispositivo hai una scusa in più per rendere un terminale obsoleto prima.

THIS

[AlexSwitch]

Originariamente inviato da Saturn

Brave Apple, se dalle parole seguiranno i fatti !

Sono perfettamente d'accordo.

I fatti dicono che per avere un IA on device con servizi simili a Copilot e Bard, bisogna avere una NPU con una potenza di calcolo di almeno 25 TOPS, l'optimum sarebbero i 40 TOPS come affermato da Microsoft nella stesura delle specifiche per l'IA Pc.
M3 ( liscio, Pro e Max ) arriva a 18,5 TOPS, mentre il costoso M2 Ultra ( un Max X 2 ) si attesta intorno ai 32 TOPS grazie a 2 NPU.
Tutto ciò si traduce in una attesa di almeno un anno e mezzo visto che i primi SoC Apple a 2nm arriveranno entro il primo trimestre 2025 ( TSMC prevede di produrre wafer con il primo processo a 2nm nella seconda metà di quest'anno salvo ritardi ).
Quindi i prossimi OS saranno ancora incentrati più sul machine learning piuttosto che su un modello di IA più avanzato, poi si starà a vedere...
Intanto il primo treno Apple l'ha perso.

[AlexSwitch]

Originariamente inviato da insane74

l'IA attuale, che si basa su LLM, ha bisogno di macinare un macello di dati per funzionare, e per farlo deve attingere ai dati "di tutti" in barba alla privacy.

visto che Apple punta da sempre sulla privacy (quello che fai sul dispositivo resta sul dispositivo bla bla) non è che se ne può uscire con una soluzione alla Google/Microsoft dove gira tutto in cloud / addestrato coi dati degli utenti e fare finta di niente.

minimo minimo appena ci provano tutti staranno lì a dire "e la privacy allora?".

quindi direi che ci sta che punti a fare il più possibile "on device".
e, tra l'altro, potrebbe anche essere un fattore per spingere all'upgrade: vuoi le nuove super feature IA? serve l'iPhone migliore di sempre (che è quello dopo quello che hai in mano ora)! cambialo subito!
e via di boost di vendite.

Questo è un altro valido aspetto da considerare visto che orami le innovazioni su iPhone si sono ridotte ai tasti programmabili...

[s12a]

Spero che questo dia finalmente una spinta ai produttori di hardware affinché si decidino di tirare fuori prodotti con memoria veloce ed in grande quantità anche per la plebe (e no, purtroppo 16GB a 250 GB/s di banda o giù di lì non rientrano in questi parametri).

[zancle]

Originariamente inviato da Saturn

Brave Apple, se dalle parole seguiranno i fatti !

Sono perfettamente d'accordo.

Originariamente inviato da !fazz

il funzionamento offline e una maggiore reattività della ia

voi come azienda, usereste IA online per sviluppare un nuovo prodotto, con il rischio che questo venga utilizzato per addestrare l'IA a vantaggio di un vostro concorrente?

[!fazz]

Originariamente inviato da zancle

voi come azienda, usereste IA online per sviluppare un nuovo prodotto, con il rischio che questo venga utilizzato per addestrare l'IA a vantaggio di un vostro concorrente?

dal mio punto di vista
dipende dalla ia,

per ia generiche tipo copilot non ho particolari problemi se ms le usa per migliorare la AI (anche se nella nuova versione la puoi riaddestrare su dataset privati)

per altri sistemi di ia, soprattutto sui sistemi di visioni di solito li basiamo su dataset pubblici ma che poi vengono riaddrestrati in locale su immagini reali + reinforced learning se possibili e quelli rimangono in locale e non finiscono sulla rete :-)

[jepessen]

Originariamente inviato da zancle

voi come azienda, usereste IA online per sviluppare un nuovo prodotto, con il rischio che questo venga utilizzato per addestrare l'IA a vantaggio di un vostro concorrente?

Dipende dal progetto, ma in genere si', dato che vale anche il contrario... Cosa impara a fare una IA dentro un'azienda se non puo' attingere dati da altre parti per migliorarsi?