Link alla notizia: https://www.hwupgrade.it/news/memorie/sam-altman-vuole-tutta-la-ram-nei-datacenter-uno-spreco-usarla-per-i-vostri-pc_161384.html

Il CEO di OpenAI sostiene che utilizzare la memoria DRAM nei PC per eseguire modelli di intelligenza artificiale sia inefficiente rispetto al cloud. Secondo Altman, la limitata disponibilità di memoria richiede un utilizzo massimo delle risorse nei datacenter.

Click sul link per visualizzare la notizia.

Offriamo in sacrificio le nostre memorie al Dio Altman! :O

ps: ma vai a ca**re!

Se me le paga 1000€ a banco (quelli da 4GB, ovviamente), gliele do molto volentieri :O:O

Oramai siamo ad una presunzione che rasenta il grottesco!
Altman & Co. hanno spinto al massimo un business che non ha ritorni rispetto al capitale speso, a parte qualche eccezione come Palantir, e stanno tentando di imporlo con tutti i mezzi pur di non naufragare. Nel mezzo ci siamo noi " disgraziati " utilizzatori di PC/workstation che dobbiamo subire ed assorbire tutti i costi di un mercato impazzito e distorto... Un bel traguardo direi... :rolleyes:

Mah, può avere anche un senso eh, prima dell'avvento delle Gen AI, l'idea che un giorno tutto sarebbe stato in cloud, da office ai videogiochi, era abbastanza condivisa. Costringere ad abbonamenti è più renumerativo che vendere un prodotto finito.

Al di là che facendo girare il SW sul server, giochi a parte, si può avere un'esperienza mediamente migliore per la stragrande maggioranza degli utenti. A discapito della privacy chiaro.

Personalmente non mi sbatterei mai per avere una IA "in casa", piuttosto pago di più per quella in cloud. Ci sono troppi vantaggi.

In sé il ragionamento fila, almeno limitatamente all'ia, anche se la stragrande maggioranza delle RAM nei pc mediamente viene usata per altro, poi non dice che la RAM dovrebbe appartenere a una cerchia ristretta di superstalloni dell'AI chiusa, ma andrebbe bene anche a cloud provider che fanno inferenza o training su modelli aperti.
Poi resta il fatto che dire una cosa simile è molto impopolare e non gli dà nessun vantaggio, non è che ora gli utenti privati smettono di comprarla illuminati dal Verbo di Altman, quindi era meglio se stava zitto

Cosa vi aspettavate da uno dei superstalloni della IA?
Comunque sia,il discorso che poche aziende possano distruggere e manipolare il mercato è uno dei grossissimi difetti del libero mercato.
Il libero mercato dovrebbe valere solo per il "lusso" per il resto non dovrebbe esistere altrimenti nascono giochi di cartelli, aumenti senza senso etc

Cosa vi aspettavate da uno dei superstalloni della IA?
Comunque sia,il discorso che poche aziende possano distruggere e manipolare il mercato è uno dei grossissimi difetti del libero mercato.
Il libero mercato dovrebbe valere solo per il "lusso" per il resto non dovrebbe esistere altrimenti nascono giochi di cartelli, aumenti senza senso etc

Il PC è un lusso, ancor di più se con tanta RAM, se non è strettamente usato per lavorare.

Altman, ma vai a c@g@re, che è meglio :D

Il PC è un lusso, ancor di più se con tanta RAM, se non è strettamente usato per lavorare.

Interesante prospettiva. Quindi l'unica cosa che conta è il lavoro, soprattutto se serve ad aumentare i guadagni di Altman e Co.

Io uso 512GB di DDR5 EEC solo per scrivere cose intelligenti qui sul forum :O
Cosa ne pensi Sam? :O

posso capire come mai fosse "amico" di Musk all'inizio.. entrambi con grossi problemi a capire gli umani veri e con qualche problema di onnipotenza da affrontare..

mi domando se hanno capito che siamo noi utilizzatori finali che permettiamo a loro di avere un lavoro..

Il PC è un lusso, ancor di più se con tanta RAM, se non è strettamente usato per lavorare.

Il concetto di lusso è solo una questione di cosa ci si può permettere. Dai su, non facciamo i comunisti.

Il concetto di lusso è solo una questione di cosa ci si può permettere. Dai su, non facciamo i comunisti.

No, il lusso è qualsiasi prodotto voluttuario. Il PC con 512GB di RAM per cazzeggiare è un lusso. Il PC per lavorare è una necessità. Indipendentemente dai soldi che uno possiede.

mi domando se hanno capito che siamo noi utilizzatori finali che permettiamo a loro di avere un lavoro..

Di solito preferisco usare i termini in italiano rispetto all'inglese ma in questo caso avrei detto "end users", che "utilizzatori finali" mi ricorda troppo la storica frase di Ghedini su Berlusconi e le mignotte :D

No, il lusso è qualsiasi prodotto voluttuario. Il PC con 512GB di RAM per cazzeggiare è un lusso. Il PC per lavorare è una necessità. Indipendentemente dai soldi che uno possiede.

Lusso è tutto ciò che va oltre quello che uno si può permettere, nel lavoro e nei fatti propri.

Concordo sul fatto che i client non abbiano necessità di far girare modelli IA in locale, magari un server-ia in azienda è utile.

Lusso è tutto ciò che va oltre quello che uno si può permettere, nel lavoro e nei fatti propri.

E allora perché si dice "quello è un lusso" anche se uno se lo può permettere?
Per me è un lusso solo quello che uno si può permettere, se non te lo puoi permettere non è un lusso, è qualcosa che non ti puoi permettere.

E allora perché si dice "quello è un lusso" anche se uno se lo può permettere?
Per me è un lusso solo quello che uno si può permettere, se non te lo puoi permettere non è un lusso, è qualcosa che non ti puoi permettere.

Si dice anche "quello è un lusso che non ti puoi permettere".
Se uno è povero e può ragionevolmente permettersi solo il tonno in scatola ma si indebita e prende il pesce fresco, si è concesso un lusso pur non potendo permetterselo.
Se uno invece è economicamente tranquillo e può permettersi senza problemi il pesce fresco, stiamo parlando dello stesso bene ma non più di lusso. Al massimo di standard più alti.

Il PC è un lusso, ancor di più se con tanta RAM, se non è strettamente usato per lavorare.

Quando uno smartphone basico o un PC sarà talmente costoso che pochi potranno permettersi di acquistare,ne riparleremo, specialmente in questa epoca che i servizi,anche quelli comunali o comunque burocratici,si stanno spostando on line.
Un esempio stupido,per ordinare i farmaci per me o mia madre,la segreteria dei medici di base non accetta più chiamate,o mandi una email o vai giù in macchina in segreteria e compili un modulo,se in futuro tolgono anche il modulo, resterà solo la email ed è dove si andrà a parare in futuro.
Se ti si rompe lo smartphone e hai le pezze al culo,magari uno smartphone da 600 euro basico non te lo puoi permettere.
Lusso significa che è superfluo,ormai uno smartphone o un PC non è più superfluo, è stato messo nel paniere Istat appunto perché,certi servizi importanti,e non sto parlando di Netflix videogiochi o altro,un sistema elettronico ti serve perché sennò sei tagliato fuori.

Altman dovrebbe sparire per il bene del genere umano.

Altman dovrebbe sparire per il bene del genere umano.

Fosse il solo... hai voglia quanti ce ne sono :muro:

Quando uno smartphone basico o un PC sarà talmente costoso che pochi potranno permettersi di acquistare,ne riparleremo, specialmente in questa epoca che i servizi,anche quelli comunali o comunque burocratici,si stanno spostando on line.
Un esempio stupido,per ordinare i farmaci per me o mia madre,la segreteria dei medici di base non accetta più chiamate,o mandi una email o vai giù in macchina in segreteria e compili un modulo,se in futuro tolgono anche il modulo, resterà solo la email ed è dove si andrà a parare in futuro.
Se ti si rompe lo smartphone e hai le pezze al culo,magari uno smartphone da 600 euro basico non te lo puoi permettere.
Lusso significa che è superfluo,ormai uno smartphone o un PC non è più superfluo, è stato messo nel paniere Istat appunto perché,certi servizi importanti,e non sto parlando di Netflix videogiochi o altro,un sistema elettronico ti serve perché sennò sei tagliato fuori.

Al di là che togliere opzioni ai cittadini è da tdc e dà l'idea del mondo di cacca in cui si sta andando, ma per mandare email non è necessario un PC, men che un PC con 512GB di ram (che ormai è un lusso, quella sì).

Basta avere un telefono del 15/18. Mio padre usa ancora PC di 20-30 anni fa per dire, e per fare proprio quelle cose per cui ora serve un PC, come home banking e email

Altman dovrebbe sparire per il bene del genere umano.

Il MALE l'hanno fatto gli ingegneri di Google che hanno inventato l'architettura Transformer.

Hanno distrutto il genere umano, comunque secondo me meritano ampiamente un Nobel (Fisica?)

Praticamente ha detto "Non usate la AI locale gratis, pagateci per usarla in cloud"

ma questo non ha accuse di abusi da parte di sua sorella e di essere il mandante di un omicidio?

e' proprio vero che oggi se non vai in galera non sei nessuno

della serie "io so io e voi non siete un cazzo"

ps: ma vai a ca**re!

non concordo sulla dimensione del font

Nella bolla AI ... :D :D :D

Si dice anche "quello è un lusso che non ti puoi permettere".
Se uno è povero e può ragionevolmente permettersi solo il tonno in scatola ma si indebita e prende il pesce fresco, si è concesso un lusso pur non potendo permetterselo.
Se uno invece è economicamente tranquillo e può permettersi senza problemi il pesce fresco, stiamo parlando dello stesso bene ma non più di lusso. Al massimo di standard più alti.

Tecnicamente, oggi come oggi, il tonno in scatola E' un lusso.
Basta guardare i prezzi..

Tecnicamente, oggi come oggi, il tonno in scatola E' tutto sta diventando un lusso.
Basta guardare i prezzi..

fixed

Sam Altman e tutti i suoi colleghi della confraternita delle IA sono un grosso spreco che l'umanità non dovrebbe potersi permettere. Ma purtroppo deve permetterselo e finirà come finirà inevitabilmente, un altro tassello per l'estinzione.

Credo che ci sia un sostanziale fraintendimento. Dall’intervista emerge abbastanza chiaramente che Altman si riferisse all’utilizzo della RAM per l’esecuzione di modelli di IA in locale, non al suo impiego generale. Naturalmente si può contestare anche questa posizione, ma confondere i due piani e attribuirgli affermazioni più ampie finisce per distorcere il senso del suo ragionamento

Sapendo chi è e cosa fa il suo discorso incute un certo timore.
Discorsi da dittatore esaltato.

non concordo sulla dimensione del font

Esame della vista non superato :banned:

Credo che ci sia un sostanziale fraintendimento. Dall’intervista emerge abbastanza chiaramente che Altman si riferisse all’utilizzo della RAM per l’esecuzione di modelli di IA in locale, non al suo impiego generale. Naturalmente si può contestare anche questa posizione, ma confondere i due piani e attribuirgli affermazioni più ampie finisce per distorcere il senso del suo ragionamento

Infatti, il lusso è averci un PC con 512GB di ram per far girare in locale modelli, e per me non ha particolarmente senso se non per un'azienda che vuole proteggere a tutti i costi i suoi dati (che se unoi li vuole avere ci son metodi migliori che intercettare prompt IA). Il cloud è enormemente più vantaggioso.

Altman ha ragione, ma infatti non è per motivi di "efficienza" che ha senso l'inferenza locale.

Ne sa qualcosa il tizio della New York University a cui è stato *rubato* il lavoro sulle equazioni di Navier-Stokes.

Con modelli di intelligenza artificiale sempre più efficienti che possono anche funzionare localmente, non possono più permetterci di possedere hardware **decente**, poiché perderebbero potere contrattuale nei nostri confronti. Noi schiavi cioè.
Ovviamente, non possono impedirci di acquistare nuovo hardware, quindi si avvalgono delle leggi del mercato per impedire a centinaia di milioni di persone di farlo. Prezzo alto = meno clienti potenziali.

I prezzi dell'hardware continueranno ad aumentare fino a quando l'unico hardware che potremo permetterci saranno i miniPC che, anche per operazioni leggermente più complesse, avranno bisogno di una maggiore potenza di calcolo da delegare a un servizio in cloud che manco a dirlo,sarà a pagamento. Le nuove versioni di Windows, che sono sempre più inspiegabilmente assetate di risorse, li aiuteranno a raggiungere questo obiettivo.
Quindi, acquistando tutto l'hardware per i loro data center, ottengono un doppio vantaggio; tengono noi indietro e i loro servizi sono sempre più efficenti e diventano dunque indispensabili perché enormemente più rapidi (e presto avere l'abbonamento a CLAUDE entrerà nel paniere dell'istat). Inoltre, l'intelligenza artificiale li aiuterà a creare il panopticon. Il prossimo jailbreak di cui avremo bisogno non sarà per sbarazzarci della nuova protezione Denuvo, ma per evadere da una prigione in cui controllano le nostre idee e chi lo sà,persino i nostri pensieri - Eh sì, sono un complottista, quindi non date troppo credito a quanto scritto. . .

PS
forza CINA,vagli in culo a questi qua. Che quando c'è parapiglia per noi sotto - miseri tapini - la situazione migliora un pochino.

TRUMP: "who win the AI race win everything"
e speriamo allora che la battaglia duri quanto più a lungo possibile.

...
I prezzi dell'hardware continueranno ad aumentare fino a quando l'unico hardware che potremo permetterci saranno i miniPC che, anche per operazioni leggermente più complesse, avranno bisogno di una maggiore potenza di calcolo da delegare a un servizio in cloud che manco a dirlo,sarà a pagamento. Le nuove versioni di Windows, che sono sempre più inspiegabilmente assetate di risorse, li aiuteranno a raggiungere questo obiettivo.
...

Da questo punto di vista non smetterò mai di ringraziare Linus Torvalds e tutti quelli che si sono dedicati allo sviluppo di un SO libero e leggero come GNU/Linux :ave:

Aggiungo che gli USA stanno facendo un clamoroso autogol geo-politico nel non rendere pubblici i pesi dei modelli (chiaro, non quelli di frontiera) e lasciare che lo faccia la Cina.

Sicuramente antipatico, sicuramente convinto delle sue idee, sicuramente in lotta per il dominio del mondo, ma anche in malafede, visto che penso sappia benissimo perchè ualcuno potrebbe preferire avere una ia in locale, pagando salato la ram. se potesse ruberebbe la ram a tutti e pure la corrente alla concorrenza di google antrhopic etc

Dilagheranno le IA locali, l'hardware avrà costi improponibili, l'hardware datato diventerà una miniera d'oro per molti, Linux incrementerà la sua diffusione e, probabilmente, le IA online dovranno offrire decisamente di più e a costi accessibili.

Credo che ci sia un sostanziale fraintendimento.

Oddio, pure lui non è che sia stato così chiaro ...
"From a global allocation perspective, actually, it’s quite terrible to have everyone have a bunch of the world’s limited supply of DRAM sitting in their own computer."
Non sembra riferirsi solo a quelli che usano il PC per l’esecuzione di modelli di IA in locale
D'altra parte è del tutto possibile che per lui non esista alcun altro utilizzo del PC che non sia l'AI e quindi non riesca neppure a concepire che ci siano PC che non siano usati per quello
Ricordiamo che era lo stesso tizio che diceva che era molto meglio utilizzare l'elettricità per far girare l'AI piuttosto che sprecarla per gli esseri umani

Interessante il commento più votato :
From a global allocation perspective, it's quite terrible for Sam to have all of those organs. Perhaps we should dismember him

Oddio, pure lui non è che sia stato così chiaro ...
"From a global allocation perspective, actually, it’s quite terrible to have everyone have a bunch of the world’s limited supply of DRAM sitting in their own computer."
Non sembra riferirsi solo a quelli che usano il PC per l’esecuzione di modelli di IA in locale
D'altra parte è del tutto possibile che per lui non esista alcun altro utilizzo del PC che non sia l'AI e quindi non riesca neppure a concepire che ci siano PC che non siano usati per quello
Ricordiamo che era lo stesso tizio che diceva che era molto meglio utilizzare l'elettricità per far girare l'AI piuttosto che sprecarla per gli esseri umani

Interessante il commento più votato :
From a global allocation perspective, it's quite terrible for Sam to have all of those organs. Perhaps we should dismember him

Ci credo che un sacco di gente ce l'ha a morte con Sam Altman.

E' quello che insieme al suo compagno di merende Nadella ha dato il via all'orgia di finanziamenti circolari con il mega-finanziamento di Microsofto ad OpenAI che veniva presentato come una incredibile iniezione di liquidità ($) in OpenAI ed invece era tutto in crediti per usare le risorse computazionali di Azure.

Poi è quello che ha dato il via agli accaparramenti di ram da parte dei big ancora una volta con una mezza truffa (aveva fatto una "promessa non vincolante" ad ognuno dei grossi produttori di ram che gli avrebbe comprato una grossa fetta della loro produzione futura, ben sapendo che non aveva i soldi per comprare tutto quello che aveva promesso).

Ed infine ... sono proprio i "big dell' AI" che fanno incetta di quantitativi enormi di ram e GPU E NON LI USANO ... e lo ammettono pure!
https://www.theguardian.com/technology/2026/aug/17/are-microsofts-ai-plans-being-held-back-by-a-shortage-of-chips
Nadella appeared to gesture at this question on a podcast late last year called All Things AI, where he talked about Microsoft’s datacentre build-out. The biggest problem, he said, was electrical power and building datacentres close enough to where power was located.

“If you can’t do that, you may actually have a bunch of chips sitting in inventory that I can’t plug in. In fact, that is my problem today. It’s not a supply issue of chips. It’s actually the fact that I don’t have warm shells to plug into.”

Ed infine ... sono proprio i "big dell' AI" che fanno incetta di quantitativi enormi di ram e GPU E NON LI USANO ...

Molti lotti di ram e gpu sono stati prenotati da aziende AI con soldi che non esistono al solo scopo di sottrarle alla concorrenza, programmando di usarli in datacenter che devono ancora essere costruite e useranno elettricità di centrali che nessuno ha progettato

Oddio, pure lui non è che sia stato così chiaro ...


se ascolti l'intervista si parlava di IA ed esecuzione su cloud o locale, ad un certo punto l'argomento era sottointeso anche se la frase estrapolata dal contesto può sembrare generica

Non per difendere questa persona a spada tratta eh, anzi, lo dico solo per onestà intellettuale...

Senza i PC a casa e uffici come usiamo la loro bella AI? Possono tenersela stretta stretta

Senza i PC a casa e uffici come usiamo la loro bella AI? Possono tenersela stretta stretta

Per usare qualsiasi cosa in cloud mica serve un PC di chissà quale potenza eh, basta un terminale connesso a Internet, un mouse e una tastiera

Per usare qualsiasi cosa in cloud mica serve un PC di chissà quale potenza eh, basta un terminale connesso a Internet, un mouse e una tastiera

vero.. quando uno delega la propria vita ad altri non serve avere molto :muro:

Sam Altman è uno spreco di ossigeno, cibo, e acqua

Per usare qualsiasi cosa in cloud mica serve un PC di chissà quale potenza eh, basta un terminale connesso a Internet, un mouse e una tastiera

E si facciamo tutto in cloud sotto controllo degli altri e ovviamente tutto a pagamento
Cosi' anche la AI può rubare e copiare più facilmente il tuo lavoro

E si facciamo tutto in cloud sotto controllo degli altri e ovviamente tutto a pagamento
Cosi' anche la AI può rubare e copiare più facilmente il tuo lavoro

Veramente tu puoi farti tutto in casa, senza problemi eh. spendi 10k circa, ti fai un server linux su cui gira un modello cinese, un client di posta, next cloud, un client xmp per messaggistica, quel che vuoi.

Avrai pieno controllo di ogni cosa, il problema è che devi pagare il server, la corrente per farlo andare h24, la banda, aggiornare tutto costantemente soprattutto ora che tutto viene bucato in 30 secondi, e se si rompe qualcosa, non hai più accesso a nulla finché non aggiusti.

Non c'è proprio paragone, soprattutto di spesa in denaro e tempo, all'usare servizi in cloud già pronti.

Poi se uno è preoccupato della privacy peserà le due cose e valuterà di conseguenza.