Quote:
Originariamente inviato da pengfei
Sì per la precisione secondo il loro modello sono 694444$ al giorno, con un costo per query di 0.36 centesimi.
Calcolano anche che se Google dovesse gestire lo stesso numero di ricerche di ora con un LLM servirebbero 100 miliardi di dollari solo di hardware
|
Anche questo numero mi sembra esagerato.
Tanto per dire, con 100 miliardi compri
tutte le gpu prodotte di gpu di amd e nvidia di quattro/cinque anni di produzione che include tutte le gpu discrete prodotte da nvidia/amd da gamers, a supercomputers a data centers...