Collegare 10.000 GPU con la luce: la scommessa miliardaria della startup sostenuta da NVIDIA

L'esplosione della domanda di infrastrutture per l'intelligenza artificiale sta spingendo l'intero ecosistema hardware a cercare nuove soluzioni per aumentare la scalabilità dei datacenter. In questo contesto si inserisce il nuovo round di finanziamento da 500 milioni di dollari ottenuto dalla startup statunitense Ayar Labs, specializzata in tecnologie di fotonica del silicio applicate alle interconnessioni tra chip.

Di questa azienda vi avevamo già parlato in passato, dopo una tornata di investimento a cui parteciparono anche NVIDIA, AMD e Intel. La sua importanza è ancora maggiore dopo i recenti movimenti di NVIDIA, che ha sborsato 4 miliardi di dollari per sostenere l'espansione di società come Lumentum Holdings Inc. e Coherent Corp., legate allo stesso settore d'azione di Ayar Labs.

Il round di Serie E, guidato dal fondo Neuberger Berman e sostenuto anche da investitori come MediaTek, ARK Invest, Insight Partners e Qatar Investment Authority, porta il capitale complessivamente raccolto dall'azienda a circa 870 milioni di dollari e ne spinge la valutazione a 3,75 miliardi.

L'obiettivo dichiarato è accelerare la produzione su larga scala dei chiplet ottici TeraPHY, pensati per sostituire o affiancare le tradizionali interconnessioni elettriche in rame nei sistemi di calcolo ad alte prestazioni.

Con l'aumento della potenza dei moderni acceleratori AI, la comunicazione tra chip è diventata uno dei principali colli di bottiglia. Le interconnessioni in rame ad altissima velocità, soprattutto oltre gli 800 Gbps, risultano infatti limitate a distanze di pochi metri e richiedono spesso componenti aggiuntivi come i retimer per mantenere bassi i tassi di errore.

Per questo motivo nei sistemi più avanzati, come i supernodi per l'addestramento dei modelli AI, le connessioni elettriche vengono generalmente utilizzate all'interno del rack, mentre per il collegamento tra rack si ricorre a moduli ottici plug-in. Questa soluzione, tuttavia, introduce maggiori consumi energetici e una latenza superiore.

La strategia di Ayar Labs consiste nell'integrare direttamente interfacce ottiche all'interno del package del processore o dell'acceleratore, riducendo le conversioni elettrico-ottiche e migliorando efficienza e larghezza di banda.

Il cuore della proposta tecnologica è rappresentato dai chiplet TeraPHY, moduli di I/O ottici che possono essere integrati nel package del processore tramite tecniche di packaging avanzato. In una recente implementazione sviluppata insieme ad Alchip e al partner produttivo TSMC, un prototipo ha integrato otto chiplet TeraPHY nello stesso package.

Secondo i dati forniti dall'azienda, una configurazione di questo tipo potrebbe raggiungere oltre 200 Tbps di banda aggregata per package, un valore significativamente superiore rispetto ai circa 28,8 Tbps disponibili sugli attuali acceleratori di fascia alta.

Ogni engine ottico TeraPHY offre oltre 8 Tbps di banda con una latenza inferiore a 25 nanosecondi, sfruttando circuiti fotonici integrati realizzati con tecnologie avanzate di packaging come SoIC-X. I segnali luminosi vengono modulati tramite circuiti CMOS collegati a laser esterni, una scelta progettuale che permette di ottimizzare separatamente la parte elettronica e quella fotonica.

Uno degli obiettivi più ambiziosi della startup è consentire la costruzione di cluster AI molto più estesi mantenendo consumi e densità energetica entro limiti sostenibili. Secondo la società, le interconnessioni ottiche integrate potrebbero consentire di realizzare domini di calcolo con fino a 10.000 GPU interconnesse, mantenendo il consumo di un rack intorno ai 100 kW. La maggiore distanza supportata dai collegamenti ottici permetterebbe inoltre di superare i limiti fisici delle connessioni elettriche tradizionali.

Il nuovo capitale servirà soprattutto a costruire la capacità produttiva necessaria per portare la tecnologia su larga scala. La startup ha già avviato l'espansione internazionale con l'apertura di un ufficio a Hsinchu, Taiwan, uno dei principali poli mondiali della produzione di semiconduttori.

Parallelamente Ayar Labs sta sviluppando anche componenti complementari, come le sorgenti laser esterne SuperNova, fondamentali per alimentare i collegamenti ottici dei chiplet TeraPHY. La prospettiva, secondo l'azienda, è quella di produrre in futuro decine o centinaia di migliaia di moduli laser all'anno, mentre la domanda di engine ottici potrebbe raggiungere volumi molto più elevati.