Quote:
Originariamente inviato da dwfgerw
Credo che sia necessario fare un minimo di chiarezza.. I server NVIDIA non sostituiscono i custom server Apple, che integrano sia una versione di MacOS che di chip Apple custom in partnership con produttori di unitā rack. I server NVIDIA potrebbero venire usati per il training e fine tuning, mentre i server Apple Silicon verranno utilizzati per l'inferenza, rappresentano il PCC (Private Cloud Compute), macchine di computing di tipo stateless.
https://security.apple.com/documenta...-cloud-compute |
Beh diciamo che questa inaspettata operazione, vista la sua portata, smentisce le parole di Federighi pronunciate a settembre scorso dopo il WWDC '24, riguardo au un sistema autarchico basato su CPU/GPU derivate da Apple Silicon: " Building
Apple Silicon servers in the data center when we didn't have any before, building a custom OS to run in the data center was huge," says Federighi. [Creating] the trust model where your device will refuse to issue a request to a server unless the signature of all the software the server is running has been published to a transparency log was certainly one of the most unique elements of the solution - and totally critical to the trust model ".
Inoltre, per quanto riguarda i sistemi di addestramento LLM proprietari ( AFMs ) per Apple Intelligence, a Cupertino si sono giā affidati a soluzioni basate su TPU V4 di Google e sono tutt'ora in funzione.
Sostanzialmente di hardware proprietario Apple per l'intelligenza artificiale non c'č proprio nulla di nulla. Nulla su cui addestrare i modelli proprietari, nulla su cui far girare questi modelli ad uso dei servizi integrati negli OS.