Apple MLX si apre a CUDA: in arrivo il supporto alle GPU NVIDIA

Un nuovo progetto open-source sta avvicinando due mondi che in passato sono stati distanti: Apple e NVIDIA. Il framework MLX, sviluppato da Apple per l'esecuzione di carichi di machine learning su chip Apple Silicon, sta acquisendo il supporto per CUDA, la piattaforma proprietaria di NVIDIA pensata per sfruttare le sue GPU in applicazioni ad alta intensità di calcolo.

La novità rappresenta un passo importante per la portabilità dei carichi di lavoro AI. Originariamente costruito per funzionare in ambienti Apple utilizzando Metal, MLX sta ora integrando un backend CUDA che ne estende la compatibilità verso le GPU NVIDIA, ampiamente utilizzate nel settore per il training e l'inferenza di modelli su larga scala.

CUDA (Compute Unified Device Architecture), come molti di voi sapranno, è una tecnologia chiave nell'ecosistema del machine learning. È la base su cui poggiano framework come PyTorch e TensorFlow, ed è indispensabile per chi lavora con GPU NVIDIA in ambito accademico o industriale. Con l'aggiunta di un backend CUDA a MLX, Apple apre la possibilità di scrivere, testare e ottimizzare modelli su Mac con chip M1, M2 o M3, per poi esportarli in ambienti dotati di GPU NVIDIA, anche su larga scala.

Questo approccio consente di ridurre sensibilmente i costi iniziali legati allo sviluppo di soluzioni ML: invece di dover disporre subito di hardware NVIDIA, spesso molto costoso, si potrà sviluppare su Apple Silicon e solo successivamente passare a sistemi di produzione basati su CUDA.

Il supporto CUDA per MLX è ancora in una fase iniziale, ma in rapido avanzamento. Diverse operazioni fondamentali - tra cui softmax, sorting, indexing e riduzioni - sono già state implementate e testate. Il codice funziona attualmente su sistemi con Ubuntu 22.04 e CUDA 11.6, ma non è ancora pronto per un utilizzo esteso in produzione.

Va sottolineato che questo sviluppo non significa che sarà possibile utilizzare GPU NVIDIA direttamente su Mac, né che i progetti CUDA potranno essere eseguiti su Apple Silicon. Il vantaggio, piuttosto, risiede nella possibilità di scrivere codice compatibile con CUDA direttamente su un Mac, in un ambiente Apple-friendly, per poi eseguirlo su hardware NVIDIA in fase di deploy o test su larga scala.

Il progetto è indicato come "sponsorizzato da Apple", anche se al momento non ci sono conferme ufficiali da parte dell'azienda. Resta il fatto che, se portato a termine, questo lavoro potrebbe semplificare notevolmente la vita di sviluppatori, startup e ricercatori, abbattendo le barriere tra ambienti di sviluppo Apple e infrastrutture di calcolo NVIDIA.