Memorie fino a 400 layer e fino a 8 volte le velocità di HBM5. Samsung infiamma il Future Memory and Storage2026

[mmorselli]

Originariamente inviato da AtaruGolan

Costruire un datacenter (che sia per servizi o AI) oggi significa parlare di investimenti nell'ordine di centinaia di milioni, fino a decine o centinaia di miliardi di dollari considerando infrastrutture, energia, rete e hardware. Sono investimenti che pochissimi soggetti al mondo possono permettersi.

Non per forza... Datacenter è diventata una parola trendy del 2026, ma c'è la tendenza a considerare tutti i datacenter dei mostri perchè quelli che stanno costruendo le big company AI sono dei mostri... Ma loro devono addestrare i modelli e offrire inferenza centralizzata a centinaia di milioni di persone da un'unica interfaccia o API

L'ipotesi che facevo io invece è quello di un datacenter a misura di quelli che oggi in Italia forniscono servizi web, come Aruba, ma anche più piccoli. Se lo scopo è centralizzare delle costose GPU nVidia per tenerle operative 24/24 invece che restare spente di notte, puoi scalare come vuoi. Esattamente come i provider web quelli più piccoli che fanno meno economia di scala e quindi che devono tenere prezzi un po' più alti cercano di compensare con un servizio più verticale, con offerte molto personalizzabili e assistenza che ti fa parlare con un sistemista e non con un call center.

Da questi io non comprerei token d'inferenza, comprerei lo spazio disco, la potenza computazionale e la ram per far girare il mio modello open weight, in modalità dedicata e privata.