'Non è sostenibile': il CEO di ARM punta il dito contro la richiesta energetica dell'IA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ia_126143.html

Una "sete di elettricità" insaziabile, così il CEO di ARM Rene Haas ha commentato sul Wall Street Journal l'evoluzione dei modelli di intelligenza artificiale come ChatGPT di OpenAI. Non è l'unico: da più parti emergono numeri e previsioni preoccupanti.

Click sul link per visualizzare la notizia.

[nosio]

qual'è sempre stato il motto di nvidia?
"e a noi che ce frega, basta farle più grosse!"

[io78bis]

Mi sembra la stessa lotta contro la blockchain.

Se consuma tanto ad un certo punto la corrente finisce e si fermano. Basta mettere un tetto alle potenze assorbite dai singoli in modo da spingerli ad innovare prima di vendere più di quello che possono permettersi.

Tanto è assodato che IA toglierà più posti di lavoro di quelli che creerà

[Sig. Stroboscopico]

Bel tema quello degli sprechi energetici...
Sempre attuale e quanto mai sempre sottovalutato alla fine.

[UtenteHD]

Hanno ragione, ma oramai e' partito tutto, non si possono fermare, per ora troveranno una soluzione.
Successivamente, quando surclasseranno NVIDIA col suo motto sempre piu' esose di energia tanto le comprano comunque, allora avremo dei veri Chip appositi che consumano 1/10 o 1/100, ovvimente in X anni, nel frattempo ci si arrangia..

[TorettoMilano]

direi vadano obbligate le aziende del settore a investire in rinnovabili, ma rimarrebbe il problema di chi usa le IA offline col proprio pc

[supertigrotto]

Torniamo sempre al solito discorso,le rinnovabili vanno benissimo ma serve la fusione,dobbiamo accelerare sulla fusione e sul geotermico di profondità, cioè scavare in profondità con macchinari che stanno sperimentando.

[hackaro75]

E' inutile... nessuno capisce o vuole capire la cosa più semplice del mondo: non possiamo continuare ad espanderci come razza umana. A tutti i livelli: energetici, demografici, di consumo di risorse non rinnovabili ed anche delle rinnovabili (perché non si rinnovano così in fretta). Nessuna razza può farlo, pena l'estinzione perché tanto il pianeta ci sopravviverà. Serve dire di no e fermarsi anche perché il mondo fino ad oggi ha fatto a meno di un sacco di cose, tra cui l'AI e quindi può continuare a farne a meno benissimo! E' sbagliato confondere il progresso con la re-iterazione consumistica e capitalista dei beni.

[nonsidice]

Consumano comunque molto meno dei condizionatori/refrigeratori nei negozi americani messi a 10° in agosto, con tanto di porte spalancate.
Sarà pure benaltrismo ma gli sprechi VERI sono ben altri che le AI (mia opinione).

[TorettoMilano]

Originariamente inviato da nonsidice

Consumano comunque molto meno dei condizionatori/refrigeratori nei negozi americani messi a 10° in agosto, con tanto di porte spalancate.
Sarà pure benaltrismo ma gli sprechi VERI sono ben altri che le AI (mia opinione).

ricordo simili ragionamenti, aspè quando li ho letti?...ah si sui bitcoin&co!!!
se leggi nell'articolo c'è scritto questo

Senza una maggiore efficienza, "entro la fine del decennio, i datacenter di intelligenza artificiale potrebbero consumare dal 20% al 25% del fabbisogno energetico degli Stati Uniti. Oggi è probabilmente il 4% o meno", ha affermato. "Non è molto sostenibile, a dire il vero"

si sta ipotizzando una crescita dal 4% al 25% in 5 anni

[Max_R]

Originariamente inviato da nonsidice

Consumano comunque molto meno dei condizionatori/refrigeratori nei negozi americani messi a 10° in agosto, con tanto di porte spalancate.
Sarà pure benaltrismo ma gli sprechi VERI sono ben altri che le AI (mia opinione).

Direi che il ragionamento è giusto ma che ormai si debba lavorare su più fronti possibili

[!fazz]

Originariamente inviato da TorettoMilano

direi vadano obbligate le aziende del settore a investire in rinnovabili, ma rimarrebbe il problema di chi usa le IA offline col proprio pc

ia offline? mi sa che non hai idea di cosa significa creare un modello di IA

c'è un motivo per cui i modelli alla base delle IA sono stati fatti solo da pochi provider già in possesso di datacenter e potenza di calcolo ad iosa, addestrare un modello di IA costa milionate di dollari di sola energia elettrica, senza contare l'hardware necessario,

la povera pmi con un investimento di qualche decina di migliaia di euro in hardware ed energia al massimo può effettuare il tuning di un algoritmo pre addestrato mentre offline al massimo puoi eseguire un algoritmo di AI

ed è la fase iniziale che è quella che costa in termini energetici

[TorettoMilano]

Originariamente inviato da !fazz

ia offline? mi sa che non hai idea di cosa significa creare un modello di IA

c'è un motivo per cui i modelli alla base delle IA sono stati fatti solo da pochi provider già in possesso di datacenter e potenza di calcolo ad iosa, addestrare un modello di IA costa milionate di dollari di sola energia elettrica, senza contare l'hardware necessario,

la povera pmi con un investimento di qualche decina di migliaia di euro in hardware ed energia al massimo può effettuare il tuning di un algoritmo pre addestrato mentre offline al massimo puoi eseguire un algoritmo di AI

ed è la fase iniziale che è quella che costa in termini energetici

avevo letto di gente usare l'IA offline per chatbot/creare foto e video ma non ho mai approfondito, magari ho letto/ricordo male, può essere

[!fazz]

Originariamente inviato da TorettoMilano

avevo letto di gente usare l'IA offline per chatbot/creare foto e video ma non ho mai approfondito, magari ho letto/ricordo male, può essere

quello è usare un modello non addestrarlo

[TorettoMilano]

Originariamente inviato da mally

questa è la storiella che cerca di vendervi apple con i suoi chip IA inseriti in ogni device poi nella realtà...

? parlavo in generale, qui per esempio ci sono info per qualsiasi dispositivo hw
https://www.reddit.com/r/LocalLLaMA/..._ai/?rdt=43602

Originariamente inviato da !fazz

quello è usare un modello non addestrarlo

nell'articolo veniva esposto ampliamente il problema non solo per addestrarlo ma anche per usarlo, incollo una piccola parte dell'articolo

Secondo un report dell'Agenzia Internazionale per l'Energia (AIE), una richiesta a ChatGPT richiede in media 2,9 wattora di elettricità, pari all'accensione di una lampadina da 60 watt per poco meno di tre minuti

[GLaMacchina]

Io da anni sostengo che l'AI non avra' questo grande impatto proprio per questioni energetiche.
A mio avviso sono limitati, seppur importanti, come ad esempio la medicina, gli ambiti in cui un tale esborso energetico sia giustificabile e sostemibile (anche solo finanziariamente, lasciando stare le questioni ecologiche).

La mia convinzione si basa su un semplice, incontestabile principio: le macchine biologiche hanno un efficienza incomparabilmente superiore rispetto alle macchine elettroniche. Un essere umano, se stimolato opportunamente e' in grado di esprimere un enorme intelligenza al costo di una ciotola di riso al giorno o poco piu'. La questione centrale nello sviluppo della razza umana e' come creare questi "stimoli opportiuni", ovvero le condizioni sociali che permettano alla maggior parte degli esseri umani di esprimere il loro immenso potenziale intelettuale a basso consumo.

[!fazz]

Originariamente inviato da TorettoMilano

? parlavo in generale, qui per esempio ci sono info per qualsiasi dispositivo hw
https://www.reddit.com/r/LocalLLaMA/..._ai/?rdt=43602



nell'articolo veniva esposto il problema non solo per addestrarlo ma anche per usarlo, incollo la parte interessata

si certo quando si usa una ai per applicazioni futili di massa con miliardi di richieste va considerato ma la tendenza sarà chiuderlo e mettere a pagamento le AI online (cosa che tanti sistemi stanno già facendo) utilizzandolo per lavoro 3wh di elettricità non sono nulla

[Giuss]

Tutto questo per servizi che si sono inventati e che nessuno ha chiesto

[marcram]

Bene, quando nasce un problema, ci si applica per trovare la soluzione.
E' lo stimolo che ci fa progredire da sempre.
Quindi, o si trova la maniera di produrre più elettricità, o si fa consumare meno elettricità ai chip...

[Max_R]

Originariamente inviato da Giuss

Tutto questo per servizi che si sono inventati e che nessuno ha chiesto

Non proprio nessuno: ci sono molte aziende che si aspettano di poter tagliare il personale per avere risultati in pochi minuti per un lavoro che richiederebbe settimane. Con costi diretti nettamente inferiori.