View Single Post
Old 04-08-2024, 16:59   #14
LMCH
Senior Member
 
Iscritto dal: Jan 2007
Messaggi: 6169
Probabilmente succederà qualcosa di simile alla bolla di internet scoppiata intorno al 1000, quando i .net cazzari andarono a gambe all'aria bruciando un fottio di soldi ma le aziende con prodotti e servizi concreti iniziarono la loro ascesa in modo deciso (es.: Google).

Spero solo che facciano in tempo ad uscire hardware ottimizzati per bitnet b1.58 (a logica ternaria, probabilmente implementata almeno in 2bit) in modo da spazzar via FP16, BF16 e FP8 ed avere solo unità di accelerazione matriciale/tensoriale FP64, FP32 ed unità analoghe per b1.58.

In questo modo si avrà hardware con maggiori prestazioni anche al di fuori dei LLM ed hardware "per AI" molto più performante ed efficiente per i casi d'uso di reale utilità.
LMCH è offline   Rispondi citando il messaggio o parte di esso
 
1