Tutti i modi in cui la scommessa di Oracle sui data center per l'IA può finire male

[Redazione di Hardware Upg]

Link alla notizia: https://edge9.hwupgrade.it/news/mark...le_155745.html

La corsa all'IA potrebbe, in realtà, finire in un burrone. È quanto Oracle ha messo nero su bianco in un documento per la SEC, nel quale riconosce tutte le sfide e i possibili problemi legati alla costruzione di data center per l'IA

Click sul link per visualizzare la notizia.

[supertigrotto]

Dopo le notizie di aumenti dei costi della IA per le aziende che cominciano a limitare la spesa, è normale avere dei dubbi.
Dopo l'entusiasmo iniziale,cominciano a mettere i piedi per terra e quindi gli investitori cominciano ad avere forti dubbi sugli entusiasmi iniziali di promesse di guadagni infiniti.
Ci si sta scontrando con la realtà.
È un po' off topic ma spiega che la realtà su carta e la realtà vera è tutta una alta cosa,oggi ho letto la notizia che Nvidia Vera Rubin Ultra non sarà messa in produzione facilmente,anzi,per ora è sospesa,problemi di packaging che si sono presentati nel impacchettare 4 chip,i tassi di fallimento,rotture e difetti sono altissimi,per cui il progetto passa a due chip,su carta era possibile farlo ed era un progetto potentissimo ma nel portarlo nella realtà,si sono scontrati con grossi problemi reali,proprio nel packaging avanzato.
Altri progetti su carta dovevano essere super potenti ma nella realtà,la cosa non si è rilevata tale,tipo larrabee doveva essere la GPU rivoluzionaria (anche se con il senno di poi,più che una GPU sarebbe stato un ottimo acceleratore IA)
Secondo me hanno preso tutta la IA nello stesso modo,pur di convincere la gente ad investire,hanno pompato troppo gli entusiasmi ma ora si scontrano con la realtà,mancanza di fonti energetiche, difficoltà di raffreddamento,componenti scarsi e con obsolescenza iper rapida,modelli che evolvono meno rapidamente di quanto ci si aspettava,clienti che si aspettavano ricavi maggiori etc.
Difatti mi pare che gli investitori,si stanno guardando intorno per portare i loro fondi altrove.

[Piedone1113]

Originariamente inviato da supertigrotto

Dopo le notizie di aumenti dei costi della IA per le aziende che cominciano a limitare la spesa, è normale avere dei dubbi.
Dopo l'entusiasmo iniziale,cominciano a mettere i piedi per terra e quindi gli investitori cominciano ad avere forti dubbi sugli entusiasmi iniziali di promesse di guadagni infiniti.
Ci si sta scontrando con la realtà.
È un po' off topic ma spiega che la realtà su carta e la realtà vera è tutta una alta cosa,oggi ho letto la notizia che Nvidia Vera Rubin Ultra non sarà messa in produzione facilmente,anzi,per ora è sospesa,problemi di packaging che si sono presentati nel impacchettare 4 chip,i tassi di fallimento,rotture e difetti sono altissimi,per cui il progetto passa a due chip,su carta era possibile farlo ed era un progetto potentissimo ma nel portarlo nella realtà,si sono scontrati con grossi problemi reali,proprio nel packaging avanzato.
Altri progetti su carta dovevano essere super potenti ma nella realtà,la cosa non si è rilevata tale,tipo larrabee doveva essere la GPU rivoluzionaria (anche se con il senno di poi,più che una GPU sarebbe stato un ottimo acceleratore IA)
Secondo me hanno preso tutta la IA nello stesso modo,pur di convincere la gente ad investire,hanno pompato troppo gli entusiasmi ma ora si scontrano con la realtà,mancanza di fonti energetiche, difficoltà di raffreddamento,componenti scarsi e con obsolescenza iper rapida,modelli che evolvono meno rapidamente di quanto ci si aspettava,clienti che si aspettavano ricavi maggiori etc.
Difatti mi pare che gli investitori,si stanno guardando intorno per portare i loro fondi altrove.

Il problema è molto complesso: ooggi l'IA è trascinata dall'inferenza e praticamente tutto l'hardware è per l'adestramento. Si fanno girare i modelli su hardware sovradimensioni come prestazioni teoriche, sovrapagati e poco efficienti. Il colpo arriverà quando usciranno accelleratori puri per l'inferenza, con ram gddr7/8 ( invece che hbm) e ci ritroveremo invasi da soluzioni altamente inefficienti che dovranno essere sostituiti per rimanere con costi concorrenziali

[LMCH]

Notare che queste comunicazioni da parte di Oracle non sono sorprendenti.
Essendo quotata in borsa, Oracle é obbligata a segnalare quanto é esposta, ecc. ecc
Ma il mefistofelico Larry si sente in una botte di ferro visto che é amicissimo di Trump (non a caso Oracle fa l'hosting di TikTok in USA, si é beccata un sacco di contratti governativi e sta tacendo man bassa di dati biomedici, ecc ecc.).
Se la bolla AI scoppia di brutto, certamente Oracle é quella più vulnerabile tra i big che hanno "altre fonti di guadagno" (Microsoft, Google, Meta, Amazon, ecc.), ma non sarebbe messa male come Anthropic o OpenAI.

[DMac]

Oh dai finalmente dopo più di un anno pure la stampa mainstream sta iniziando ad arrivarci