IA generative, uno studio prova a fare luce sui costi energetici per generare un'immagine

IA generative, uno studio prova a fare luce sui costi energetici per generare un'immagine

Con Stabile Diffusion una singola immagine consuma quanto ricaricare uno smartphone. Uno studio cerca di gettare le basi per una maggior consapevolezza sulla sostenibilità energetica delle intelligenze artificiali generative

di pubblicata il , alle 15:31 nel canale Scienza e tecnologia
 

Un gruppo di studiosi composto da membri di Hugging Face, uno sviluppatore di Intelligenze Artificiali, e da ricercatori della Carnegie Mellon University ha condotto uno studio sul consumo energetico delle IA generative, in particolare quelle destinate alla realizzazione di immagini. I risultati sono stati divulgati tramite una pubblicazione che ancora non è stata sottoposta a revisione paritaria.

I ricercatori hanno effettuato le loro analisi su vari modelli, dalle quali è emerso come quello meno efficiente sia Stable Diffusion: generare una singola immagine con quest'ultimo porta ad un consumo di energia pari a quella necessaria per ricaricare completamente uno smartphone. Messa in altri termini, generare 1000 immagini con Stable Diffusion ha la stessa impronta in emissioni di carbonio di un'auto media a benzina che percorre poco più di 6,5 chilometri.

Nello studio viene tuttavia sottolineata la grande variabilità tra i modelli di generazione delle immagini, e complessivamente per tutti i modelli sottoposti al test si è registrato un consumo medio di 2907kWh per generare 1000 immagini, che si traduce in un consumo per immagine corrispondente a quello di ricaricare al 24% la batteria di uno smartphone.

Se questi dati vengono estrapolati e riparametrati su scala globale, emerge come i costi energetici degli strumenti di IA generativa siano particolarmente consistenti andando a suffragare in parte altre stime recenti condotte da Alex de Vries (lo stesso autore dello studio, di cui vi abbiamo parlato nei giorni scorsi, sull'impatto idrico di Bitcoin) che indicano come in un anno il consumo energetico di tutti i server IA al mondo sia pari a quello di un paese come l'Argentina.

I ricercatori hanno inoltre condotto analisi specifiche per le diverse fasi del ciclo di vita di un modello machine learning, ovvero quella di training, quella di fine tuning e quella di inferenza: lo scopo di tutto ciò è quello di stabilire un punto di partenza per ottenere una migliore comprensione dei requisiti energetici e delle emissioni di carbonio di quello che è l'ultima fase del ciclo di un modello IA, ovvero la sua distribuzione, così da giungere ad una visione complessiva e comparata delle varie fasi.

L'auspicio dei ricercatori è che questo genere di analisi possano rappresentare un elemento prezioso sia per i ricercatori e gli sviluppatori dell'IA, sia per governi e politici che si trovano a regolamentare il tema dell'IA ed il conseguente impatto ambientale.

Infine i ricercatori riconoscono che lo studio, al momento, non è rappresentativo di tutti i contesti e delle possibili implementazioni e a tal proposito incoraggiano il lavoro di analisi su modelli open-source che però viene reso difficile dalla sempre maggior mancanza di trasparenza nell'architettura dei modelli e dei dettagli di training.

8 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Mars9506 Dicembre 2023, 15:43 #1
si è registrato un consumo medio di 2907kWh per generare 1000 immagini


Quindi 2.9 kWh per immagine?
Più del consumo medio annuo di una famiglia di quattro persone.
Qualquadra non cosa.
nonsidice06 Dicembre 2023, 15:44 #2
prima le piscine d'acqua per BTC, ora questo.
E poi ??
sono discorsi del cavolo, altrimenti non dovremmo fare nulla, qualsiasi cosa consuma, altrimenti dovremmo vivere come gli australopitechi, ma pure loro bruciavano legna per scaldarsi immagino.
Una cosa è "esagerare", un'altra buttare "colpe" di consumi esagerati a tutto, allora io incolpo le PS5: consumano troppo per produrre ZERO.
Mars9506 Dicembre 2023, 15:56 #3
Nello studio sta scritto da 0.06 a 2.9kWh per 1000 immagini, non 2907 kWh.
Quindi circa 3 Wh a immagine.
Diciamo il consumo di un PC medio in 15 secondi circa.
Ci sta così.
D4N!3L306 Dicembre 2023, 16:19 #4
Originariamente inviato da: Mars95
Nello studio sta scritto da 0.06 a 2.9kWh per 1000 immagini, non 2907 kWh.
Quindi circa 3 Wh a immagine.
Diciamo il consumo di un PC medio in 15 secondi circa.
Ci sta così.


L'autore deve aver letto la tabella 2 non contando che in inglese si usa il punto al posto della virgola e viceversa.

Inoltre secondo l'articolo significa che in un ora assorbo 2.907 W per generare un'immagine, il che vorrebbe dire che dovrei avere una PSU da 2,9 kW che va al massimo per un'ora per generare un'immagine.

Io quando genero immagini impiego meno di un minuto e il mio alimentatore da 1.200 W regge alla grande e non mi risulta vada al massimo.
DevilsAdvocate06 Dicembre 2023, 17:31 #5
Studio già vecchio prima di uscire, infatti è uscito SDXL Turbo che chiede meno di un decimo dell'energia (e del tempo) di Stable Diffusion...
pengfei06 Dicembre 2023, 18:57 #6
Originariamente inviato da: DevilsAdvocate
Studio già vecchio prima di uscire, infatti è uscito SDXL Turbo che chiede meno di un decimo dell'energia (e del tempo) di Stable Diffusion...


La qualità è simile a Stable Diffusion liscio? DALL-E 3 che uso su Bing chat mi pare nettamente meglio
alfredaino06 Dicembre 2023, 19:59 #7
Quanto spreco di risorse per cose la cui utilità è dubbia per non dire nulla.
UtenteHD07 Dicembre 2023, 09:25 #8
Dal mio punto di vista, chi usa questa capacita' delle IA per lavoro, per aiuto nei suoi eventuali passatempi da grafico ecc.. la trovo l'utilita', senza contare che l'IA migliora costantemente, le nuove consumeranno meno ecc.. e dato che tutto fa buon brodo per migliorare serve anche per questo, basta insegnare bene.
Per me il consumo senza utilita' era ad esempio le crypto valute, gli NFT ecc.. ma questo sempre detto, si dall'inizio.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^