Addio GPU? MatX promette un chip 10 volte più efficace di NVIDIA sugli LLM

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/server...lm_150517.html

La startup statunitense MatX, fondata da due ex ingegneri di Google che hanno lavorato sulle TPU, ha raccolto 500 milioni di dollari per sviluppare MatX One, un chip progettato esclusivamente per grandi modelli linguistici. L'obiettivo è superare le GPU NVIDIA in throughput e latenza. Produzione affidata a TSMC e lancio previsto nel 2027.

Click sul link per visualizzare la notizia.

[Saturn]

Originariamente inviato da Redazione di Hardware Upgrade

La startup statunitense MatX, fondata da due ex ingegneri di Google che hanno lavorato sulle TPU, ha raccolto 500 milioni di dollari per sviluppare MatX One, un chip progettato esclusivamente per grandi modelli linguistici. L'obiettivo è superare le GPU NVIDIA in throughput e latenza. Produzione affidata a TSMC e lancio previsto nel 2027.

Dovesse funzionare per davvero, Giacchetta stacca un bell'assegno e si compra tutto. Garantito.

[coschizza]

Originariamente inviato da Saturn

Dovesse funzionare per davvero, Giacchetta stacca un bell'assegno e si compra tutto. Garantito.

non li puoi mica obbligare a vendere, perche dovrebbero vendere un azienda che potrebeb fatturare trilioni? se i lloro prodotto è davvero valido sono loro che si compreranno nvidia

[UtenteHD]

Beh lo hanno detto subito che CPU o NPU o quel che sara' dedicato saranno nettamente superiori alle GPU, e che ci sara' un uso mix per farle funzionare sia dalle NPU della CPU, sia dalle GPU che le dovranno sempre avere i tensore cores AI per DLSS che funziona di brutto come forzare l'FSR su Linux Steam se non ha DLSS, ecc.. (quindi Giacchetta sara' sempre ricco e guadagnera' sempre) che usare scheda apposita.
Ottima notizia per l'IA, anche da lato HW si migliora e si spera rendano i consumi (come ogni vera nuova Tecnologia) molto piu' potente ad un centesimo di consumi iniziali, vedasi Eniac e portatili moderni.

[Folgore 101]

Originariamente inviato da coschizza

non li puoi mica obbligare a vendere, perche dovrebbero vendere un azienda che potrebeb fatturare trilioni? se i lloro prodotto è davvero valido sono loro che si compreranno nvidia

Dipende, se JH entra in modalità "Gli farò un’offerta che non potrà rifiutare." bisogna vedere se avranno il coraggio di rifiutare.

Se avranno successo spero pure io che non vendano ad nVidia che si meriterebbe una bella doccia fredda.

[Saturn]

Originariamente inviato da Folgore 101

Dipende, se JH entra in modalità "Gli farò un’offerta che non potrà rifiutare." bisogna vedere se avranno il coraggio di rifiutare.

Infatti è stile "Padrino". Puoi provare a fare il duro, ma in un modo o nell'altro salvo non avere un potere simile a quello "dell'altra famiglia" sei destinato o a vendere o a finire male, se comincia "ad attenzionarti" un colosso come nVidia. Parliamoci chiaro, dai...non che mi piaccia, ma sono realista...

Originariamente inviato da Folgore 101

Se avranno successo spero pure io che non vendano ad nVidia che si meriterebbe una bella doccia fredda.

Ma magari, come la meriterebbe Intel e diversi altri del settore.

Succederà ? MAH. Ho i miei dubbi.

[Folgore 101]

Originariamente inviato da Saturn

Succederà ? MAH. Ho i miei dubbi.

Sognare non costa nulla.

[Unrue]

Una startup che dal nulla raccoglie 500 milioni di dollari di finanziamenti...E' questa la vera differenza tra gli USA e noi.

[Saturn]

Originariamente inviato da Folgore 101

Sognare non costa nulla.

Allora sogniamo in grande.

Io sogno sabato prossimo di comprare il solito biglietto del superenalotto da 1€ e fare sei !

Poi così posso ritirarmi a vivere in povertà e digiuno in qualche monastero Tibetano !

[Apple80]

Originariamente inviato da Saturn

Dovesse funzionare per davvero, Giacchetta stacca un bell'assegno e si compra tutto. Garantito.

Forse è un po' presto per dirlo. io attenderei. Per esperienza ,quando un 'azienda piena zeppa di soldi, viene per acquistare un tuo prodotto che potrebbe intaccare il suo monopolio , fa capire che ,se non lo vendo , arrivo a guadagnare di più. Sempre che questo tizio, non faccia come il Padrino e inizia a mettere teste di cavallo nei letti dei suoi nemici. ghghggh

Originariamente inviato da Saturn

Poi così posso ritirarmi a vivere in povertà e digiuno in qualche monastero Tibetano !

Ci ritroveremo a Shangri-La. Arriverà il giorno dove le società si saranno annientate e noi erediteremo la terra.

[grng]

Originariamente inviato da coschizza

non li puoi mica obbligare a vendere, perche dovrebbero vendere un azienda che potrebeb fatturare trilioni? se i lloro prodotto è davvero valido sono loro che si compreranno nvidia

Si parla di un prodotto specializzato per llm, le applicazioni ai non si esauriscono lí.
Poi ben vengano altre soluzioni, anzi, le gpu generiche perderanno importanza com'é successo per i minecoin, ma si parla di 2027 e le linee produttive sono sempre quelle ancora per parecchio

[supertigrotto]

Le GPU sono state sfruttate per calcolo generico dei sistemi IA ma si sapeva e si sa che non sono i prodotti più adatti,un po' come si è passati dalle GPU agli Asics per le cripto,con quel passaggio si sono risparmiati milioni di kW e di tempo.
Lo aveva già dimostrato IBM quando diceva che la IA può essere mossa da processori o hardware a 8 bit,massimo a 16 bit perché già il 32 bit è inutile e rallenta il sistema, addirittura parlava di 4 bit ma altamente parallelizzate.
La IA manopola strutture di dati molto corti ma ne ha bisogno di molti in parallelo e certi tipi di architettura sono migliori dei pezzi di silicio di Huang ma per fare questo bisogna uscire da CUDA e derivati.

[cronos1990]

Originariamente inviato da coschizza

non li puoi mica obbligare a vendere, perche dovrebbero vendere un azienda che potrebeb fatturare trilioni? se i lloro prodotto è davvero valido sono loro che si compreranno nvidia

Perchè c'è un'enorme differenza tra "potrebbe" fatturare trilioni e "sicuramente" guadagnerò trilioni

[Apple80]

Originariamente inviato da supertigrotto

ne ha bisogno di molti in parallelo e certi tipi di architettura sono migliori dei pezzi di silicio di Huang ma per fare questo bisogna uscire da CUDA e derivati.

Speriamo. Cosi possiamo tornare a goderci le schede video top gamma a prezzi dimezzati. Anche se non ne vale la pena visto i giochi di scarsa qualità che continuano a uscire.