Hala Point, Intel ha creato il sistema neuromorfico più grande al mondo

Intel ha annunciato la costruzione del più grande sistema neuromorfico al mondo, nome in codice Hala Point.

Si tratta di un sistema su larga scala che utilizza il processore Intel Loihi 2, il quale applica principi informatici ispirati al cervello, quali reti neurali spiking (SNN) asincrone e basate su eventi, memoria e calcolo integrati e connessioni sparse e in continua evoluzione, per ottenere miglioramenti di ordini di grandezza in termini di consumo energetico e prestazioni. I neuroni comunicano direttamente tra loro anziché comunicare attraverso la memoria, riducendo il consumo energetico complessivo.

Intel Loihi 2

Hala Point rappresenta un potenziamento della prima generazione Pohoiki Springs, con numerosi miglioramenti nell'architettura per ottenere una capacità neuronale oltre dieci volte più elevata e prestazioni fino a 12 volte superiori. Hala Point comprende 1152 processori Loihi 2 in uno chassis per datacenter da sei unità rack delle dimensioni di un forno a microonde. Il sistema supporta fino a 1,15 miliardi di neuroni e 128 miliardi di sinapsi distribuiti su 140.544 core di elaborazione neuromorfica che consumano un massimo di 2600 Watt di potenza. Il sistema include inoltre oltre 2300 processori x86 per calcoli ausiliari.

Hala Point, caratteristiche tecniche - Clicca per ingrandire

Hala Point integra canali di calcolo, memoria e comunicazione in una struttura massivamente parallelizzata, fornendo un totale di 16 petabyte al secondo (PB/s) di ampiezza di banda di memoria, 11 PB/s di ampiezza di banda di comunicazione inter-core e 5,5 TB/s di larghezza di banda di comunicazione tra chip. Il sistema può elaborare oltre 380mila miliardi di operazioni sinaptiche a 8 bit al secondo e oltre 240mila miliardi di operazioni neuronali al secondo.

Applicato a modelli di rete neurale di ispirazione biologica, il sistema può eseguire la sua piena capacità di 1,15 miliardi di neuroni 20 volte più velocemente di un cervello umano e fino a 200 volte più velocemente a capacità inferiori. Sebbene Hala Point non sia destinato alla modellazione neuroscientifica, la sua capacità neuronale è più o meno equivalente a quella del cervello di un gufo o della corteccia di una scimmia cappuccino.

Secondo Intel, i sistemi basati su Loihi possono eseguire l'inferenza IA e risolvere problemi di ottimizzazione utilizzando 100 volte meno energia, a velocità fino a 50 volte superiori, rispetto alle architetture CPU e GPU convenzionali. Sfruttando la connettività sparsa fino a 10:1 e l'attività basate su eventi, Hala Point può supportare 30 milioni di miliardi (quadrillion) di operazioni al secondo, o 30 petaops, con un'efficienza che supera fino a 15 TOPS/W senza richiedere la raccolta dei dati di input in batch, un metodo ottimizzazione comune per le GPU che ritarda notevolmente l'elaborazione dei dati che arrivano in tempo reale, come i video provenienti dalle telecamere.

Mentre sono ancora in fase di ricerca, i futuri LLM neuromorfici capaci di apprendimento continuo potrebbero portare a gigawattora di risparmio energetico, eliminando la necessità di riqualificazione periodica con dataset in continua crescita.

"Il costo in temini di potenza di calcolo degli attuali modelli di intelligenza artificiale sta aumentando a ritmi insostenibili. L'industria ha bisogno di approcci fondamentalmente nuovi che consentano la scalabilità. Per questo motivo abbiamo sviluppato Hala Point, che combina l'efficienza del deep learning con nuove funzionalità di apprendimento e ottimizzazione ispirate al cervello. Ci auguriamo che la ricerca con Hala Point porti a scoperte rivoluzionarie nell'efficienza e nell'adattabilità della tecnologia IA su grande scala", ha dichiarato Mike Davies, direttore del Neuromorphic Computing Lab di Intel Labs.

Clicca per ingrandire

Hala Point sarà utilizzato in primis dai ricercatori dei Sandia National Laboratories per la ricerca informatica avanzata. Gli scienziati si concentreranno sulla risoluzione di problemi di calcolo scientifico relativi alla fisica dei dispositivi, all'architettura dei computer e all'informatica. "Lavorare con Hala Point in Sandia fornisce al nostro team la preziosa capacità di risolvere problemi di modellazione scientifica. Condurre ricerche con un sistema di queste dimensioni ci consentirà di ricercare capacità di calcolo, di modellazione, simulazione e analisi dei dati per tenere il passo con l'evoluzione dell'intelligenza artificiale", ha dichiarato Craig Vineyard, Hala Point Team Lead dei Sandia National Laboratories.

Attualmente, Hala Point è un prototipo di ricerca che migliorerà le capacità dei futuri sistemi disponibili in commercio. Intel prevede di apprendere informazioni che porteranno a scoperte di utilizzo pratico, come la capacità dei Large Language Model (LLM) di apprendere continuamente da nuovi dati. Tali scoperte promettono di ridurre in modo significativo l'insostenibile onere formativo che la crescita esponenziale dell'IA porta con sé.