Meta accelera sui chip AI proprietari: quattro generazioni MTIA entro due anni

Meta ha annunciato una significativa accelerazione nello sviluppo dei propri acceleratori per l'intelligenza artificiale. L'azienda prevede di introdurre quattro nuove generazioni della famiglia MTIA (Meta Training and Inference Accelerator) nell'arco di circa due anni, una cadenza molto più rapida rispetto ai cicli tradizionali dell'industria dei semiconduttori.

L'iniziativa rientra nella strategia infrastrutturale della società per sostenere l'espansione dei carichi di lavoro legati all'AI, che spaziano dai sistemi di ranking e raccomandazione dei contenuti fino alle applicazioni di intelligenza artificiale generativa. Secondo Meta, l'obiettivo è mantenere la flessibilità necessaria per supportare modelli in continua evoluzione e gestire l'enorme scala operativa delle proprie piattaforme.

I chip MTIA rappresentano una componente chiave della strategia hardware dell'azienda. La prima generazione è stata introdotta nel 2023 e da allora Meta ha progressivamente ampliato la famiglia di acceleratori, progettati internamente in collaborazione con Broadcom.

Questi chip sono utilizzati principalmente per carichi di inferenza AI, e l'azienda afferma di averne già distribuito centinaia di migliaia nei propri datacenter per alimentare funzionalità come raccomandazioni personalizzate e pubblicità nei servizi social del gruppo.

A differenza delle GPU general purpose, gli acceleratori MTIA sono progettati per carichi specifici di Meta e fanno parte di una soluzione hardware e software completamente integrata. Questo approccio consente di ottimizzare l'efficienza computazionale e ridurre i costi operativi rispetto all'impiego di chip più generici.

La roadmap annunciata include quattro nuove generazioni di acceleratori:

• MTIA 300 - già in produzione, ottimizzato inizialmente per l'addestramento dei modelli di ranking e raccomandazione
• MTIA 400 - evoluzione progettata per gestire anche carichi di lavoro di intelligenza artificiale generativa, con prestazioni di calcolo significativamente superiori
• MTIA 450 - ottimizzato per l'inferenza dei modelli GenAI e previsto per distribuzione su larga scala all'inizio del 2027. Bandwidth HBM raddoppiata rispetto a MTIA 400 e tipi di dati a bassa precisione progettati appositamente per i carichi di lavoro di inferenza
• MTIA 500 - ulteriore evoluzione focalizzata sull'inferenza generativa con maggiore efficienza e banda memoria. Bandwidth HBM aumentata del 50% rispetto a MTIA 450 e ulteriori innovazioni nei tipi di dati a bassa precisione

Nel passaggio da MTIA 300 a MTIA 500, Meta indica un incremento di circa 25 volte nelle prestazioni computazionali e di 4,5 volte nella banda della memoria HBM, miglioramenti ottenuti in meno di due anni.

Una caratteristica chiave della piattaforma è l'architettura modulare basata su chiplet riutilizzabili, che permette di aggiornare singoli componenti senza riprogettare completamente il chip.

Ad esempio, MTIA 300 integra un chiplet di calcolo, due chiplet di rete e diversi stack di memoria HBM. All'interno del chiplet di calcolo, Meta spiega che ci sono "processing element" (PE) che integrano core vettoriali RISC-V, unità dedicate alla moltiplicazione di matrici, engine per operazioni di riduzione e acceleratori per funzioni matematiche utilizzate nei modelli di machine learning.

Questa architettura modulare si estende anche a livello di sistema: più generazioni di chip condividono lo stesso chassis, rack e infrastruttura di rete, permettendo di installare nuovi acceleratori negli stessi datacenter senza modifiche sostanziali.

Uno dei pilastri della strategia è l'approccio "inference-first": laddove molte GPU commerciali vengono progettate principalmente per l'addestramento su larga scala dei modelli generativi e successivamente adattate all'inferenza, Meta ha scelto il percorso inverso: ottimizzare gli acceleratori innanzitutto per l'inferenza.

Per questo motivo, le generazioni MTIA 450 e 500 introducono diverse ottimizzazioni per l'inferenza di modelli generativi, tra cui una banda HBM significativamente più elevata, supporto avanzato a formati numerici a bassa precisione, accelerazioni hardware dedicate a operazioni chiave e integrazione con l'ecosistema open source.

Sul piano software, Meta ha scelto di sviluppare MTIA utilizzando standard industriali ampiamente diffusi, con integrazione nativa con framework e strumenti come PyTorch, vLLM e Triton. L'infrastruttura software consente di eseguire i modelli sia su GPU tradizionali sia sugli acceleratori MTIA senza modifiche sostanziali al codice, facilitando il porting delle applicazioni e l'adozione nei sistemi di produzione.

La piattaforma include inoltre compilatori dedicati, librerie di comunicazione per sistemi multi-acceleratore e strumenti di monitoraggio e debugging progettati per gestire infrastrutture composte da centinaia di migliaia di dispositivi.

Meta sottolinea che MTIA non sostituirà completamente le soluzioni di altri produttori. L'azienda continuerà infatti a utilizzare un portafoglio eterogeneo di acceleratori, combinando hardware proprietario con chip di fornitori esterni.

Le specifiche tecniche e le prestazioni diffuse da Meta - Clicca per ingrandire

Secondo l'azienda, questo approccio permette di adattare l'infrastruttura ai diversi tipi di carico di lavoro e di evolvere rapidamente insieme ai modelli di intelligenza artificiale, che stanno cambiando più velocemente dei tradizionali cicli di sviluppo hardware.