Una teoria matematica cambia i datacenter AWS: fino al 33% di velocità in più

Amazon Web Services ha illustrato i dettagli di Resilient Network Graphs (RNG), una nuova architettura di rete per datacenter che sostituisce le tradizionali topologie gerarchiche con un modello "flat" basato sulla teoria dei grafi casuali. Secondo l'azienda, si tratta della prima implementazione su larga scala di questo approccio in ambienti hyperscale e rappresenta un cambiamento significativo nel modo in cui i dati vengono instradati all'interno delle infrastrutture cloud.

La nuova architettura è già stata introdotta in produzione: il primo deployment è avvenuto nel 2024 presso un datacenter AWS di Dublino, seguito dall'estensione in Germania e Spagna. Amazon afferma che RNG è oggi la rete predefinita per la maggior parte dei carichi di lavoro AWS e che costituirà la base delle future installazioni.

Da decenni i grandi datacenter utilizzano topologie gerarchiche note come fat-tree, nelle quali router e switch sono organizzati in livelli successivi. Sebbene questo schema abbia dimostrato affidabilità e semplicità di gestione, presenta alcuni limiti strutturali: il traffico tende a concentrarsi in specifici punti della rete, generando colli di bottiglia e lasciando inutilizzata parte della capacità disponibile.

L'idea di sostituire questa organizzazione con una rete più distribuita non è nuova. Da anni il mondo accademico studia l'applicazione della teoria dei grafi casuali alle infrastrutture di rete, ipotizzando che una maggiore libertà nelle connessioni tra nodi possa migliorare resilienza, utilizzo della banda e capacità di assorbire carichi elevati. Tuttavia, nessuno era riuscito a trasformare questi modelli teorici in un'infrastruttura utilizzabile alle dimensioni richieste dai grandi operatori cloud.

Il progetto è nato dall'incontro tra il principal applied scientist di AWS Giacomo Bernardi, l'esperto di networking Ratul Mahajan e il matematico Seshadhri Comandur, professore presso l'Università della California a Santa Cruz e Amazon Scholar.

Il gruppo ha dovuto affrontare tre problemi fondamentali. Il primo riguardava la realizzazione fisica della rete: collegare milioni di fibre ottiche secondo schemi casuali rischiava di trasformare i datacenter in un intreccio ingestibile di cavi.

Per superare l'ostacolo AWS ha sviluppato ShuffleBox, un dispositivo ottico passivo privo di alimentazione che riorganizza internamente le connessioni secondo uno schema deterministico. In questo modo è possibile ottenere il comportamento statistico desiderato dei grafi casuali mantenendo però una struttura replicabile, standardizzata e facilmente installabile in qualsiasi struttura.

Il secondo problema era legato all'instradamento del traffico. In una rete gerarchica il percorso dei pacchetti è relativamente prevedibile; in una rete composta da migliaia di connessioni distribuite diventa invece molto più complesso individuare il tragitto ottimale.

AWS ha quindi sviluppato un protocollo dedicato chiamato Spraypoint. Diversamente dagli approcci tradizionali, che privilegiano il percorso più breve, Spraypoint distribuisce il traffico su un elevato numero di percorsi disponibili contemporaneamente. Una prima fase "spray" diffonde i dati verso router vicini, mentre una successiva fase "point" li indirizza verso la destinazione finale.

Secondo i ricercatori, l'obiettivo non è sempre scegliere la strada più corta, ma sfruttare il maggior numero possibile di percorsi alternativi per ridurre la congestione e migliorare la resilienza in caso di guasti.

Prima di procedere con la realizzazione fisica, AWS ha investito notevoli risorse nella validazione del modello. Bernardi e Mahajan hanno utilizzato enormi simulazioni eseguite su Amazon EC2 per verificare il comportamento della rete in centinaia di migliaia di scenari differenti.

Complessivamente sono stati impiegati circa 530 anni-equivalenti di elaborazione, ovvero il lavoro che un singolo processore avrebbe svolto in oltre mezzo millennio. I risultati hanno mostrato prestazioni promettenti, ma è stato il contributo matematico di Comandur a fornire la dimostrazione teorica necessaria per prevedere il comportamento della rete a qualsiasi scala operativa.

Prima dell'introduzione di ShuffleBox, il team ha persino costruito un prototipo cablando manualmente le connessioni ottiche secondo lo schema previsto dai grafi casuali. Il test ha confermato nella pratica quanto osservato nei modelli teorici e nelle simulazioni.

Ratul Mahajan, Giacomo Bernardi e Seshadhri Comandur

I benefici dichiarati da AWS sono significativi. Nei test effettuati su condizioni di traffico reali, RNG ha consentito di aumentare il throughput fino al 33% rispetto alle architetture gerarchiche tradizionali.

L'azienda sostiene inoltre che la nuova struttura richieda il 69% in meno di apparati di rete tra server e destinazione finale. Questo si tradurrebbe in una riduzione dei costi infrastrutturali fino al 45%, con risparmi potenzialmente quantificabili in miliardi di dollari sull'intera infrastruttura globale AWS.

Sul fronte energetico, Amazon prevede una diminuzione del 40% dei consumi elettrici associati alle apparecchiature di rete, con un conseguente abbattimento delle emissioni di CO2 nei siti in cui la nuova architettura verrà implementata.

L'aspetto forse più interessante è che AWS è riuscita a introdurre questa trasformazione senza riprogettare completamente l'infrastruttura esistente. La nuova rete continua infatti a utilizzare router, moduli ottici, transceiver e cablaggi già impiegati nei data center attuali. Le principali novità sono rappresentate proprio da Spraypoint e ShuffleBox.

AWS ritiene che RNG possa rappresentare un vantaggio competitivo importante, trasformando una teoria rimasta confinata per anni all'ambito accademico in una tecnologia operativa destinata a sostenere la prossima generazione di infrastrutture cloud.