GPT-5.6 Sol è 14 volte più veloce con Ultrafast: il modello a 750 token/secondo sembra utopia

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/gp...ia_157803.html

OpenAI ha svelato in anteprima Ultrafast, un nuovo profilo API basato sull'hardware Cerebras per spingere le prestazioni del modello GPT-5.6 Sol. L'infrastruttura genera fino a 750 token al secondo abbattendo la latenza

Click sul link per visualizzare la notizia.

[supertigrotto]

Credo che AMD ha fatto bene a collaborare con Cerebras, i datacenter Helios hanno la possibilità di integrare il sistema Cerebras su richiesta,come lessi in un articolo,dicasi IA disaggregata.
Come volevasi dimostrare,Nvidia sarà fortissima ma le alternative alle sue GPU acceleratrici non sono da meno,si può usare hardware dedicato senza passare per le sue GPU adeguatamente modificate.