Un SSD accanto alla GPU: la ricetta di Zotac per l'IA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/sistem...ia_149608.html

Un SSD che si affianca ad una scheda video per fornire memoria addizionale a quella della scheda, utile per velocizzare le elaborazioni di intelligenza artificiale senza impattare eccessivamente sui costi

Click sul link per visualizzare la notizia.

[supertigrotto]

In questo caso sarebbe stata utile la x3d che aveva sviluppato Intel,aveva tempi di latenza record anche se un costo superiore rispetto alle nand più veloci.

[GianMi]

mi sfugge come la memoria di un ssd possa sostituire in termini di velocità e latenza altri tipi di memorie, compresa la normale ram ddr4 o 5 e senza considerare le memorie dedicate tipo hbm o gddrxx. Inoltre le memorie per ssd hanno un limitato numero di scritture possibili rispetto agli altri tipi di memoria

[Saturn]

Originariamente inviato da GianMi

mi sfugge come la memoria di un ssd possa sostituire in termini di velocità e latenza altri tipi di memorie, compresa la normale ram ddr4 o 5 e senza considerare le memorie dedicate tipo hbm o gddrxx. Inoltre le memorie per ssd hanno un limitato numero di scritture possibili rispetto agli altri tipi di memoria

Stile "file di swap" per la scheda video.

Il vantaggio direi che i dati rimangono elaborati direttamente nella scheda video senza colli di bottiglia.

CREDO EH.

Una mia ricostruzione.

[GianMi]

Originariamente inviato da Saturn

Stile "file di swap" per la scheda video.

Il vantaggio direi che i dati rimangono elaborati direttamente nella scheda video senza colli di bottiglia.

CREDO EH.

Una mia ricostruzione.

Ah, certo, meglio che niente :-) Tuttavia mi chiedo perché non hanno considerato direttamente memoria consumer che è già dalle 5 alle 10 volte più veloce e con latenze un migliaio di volte inferiori, oltre a non "consumarsi" come fanno le celle di un SSD

[Saturn]

Originariamente inviato da GianMi

Ah, certo, meglio che niente :-) Tuttavia mi chiedo perché non hanno considerato direttamente memoria consumer che è già dalle 5 alle 10 volte più veloce e con latenze un migliaio di volte inferiori, oltre a non "consumarsi" come fanno le celle di un SSD

Ora come ora ti risponderei per il prezzo.

Ma non mi torna del tutto neanche a me come risposta...visto che è aumentato tutto, di brutto...

...boh...forse gli costa di meno...non saprei.

[GianMi]

Originariamente inviato da Saturn

Ora come ora ti risponderei per il prezzo.

Ma non mi torna del tutto neanche a me come risposta...visto che è aumentato tutto, di brutto...

...boh...forse gli costa di meno...non saprei.

Be', sì, hai ragione, il costo al GB è sensibilmente diverso. Ma questa crisi non durerò in eterno e realizzare architetture di memoria condivisa come lo scatolotto di nVidia o la soluzione Apple sui Mac mi sembra decisamente più a prova di futuro. Peraltro se un modello non entra tutto nella VRAM, ma riesci a farci stare i tensori di attenzione non è che perdi poi così tanto in termini di performance.