Link alla notizia: https://www.hwupgrade.it/news/sistemi/debutta-il-raspberry-pi-5-con-16-gb-di-ram-prestazioni-al-top-e-attenzione-all-ambiente_134381.html

Raspberry Pi amplia la gamma del modello 5 con una versione da 16 GB di RAM pensata per carichi di lavoro intensivi. L'azienda introduce anche crediti per compensare l'impronta di carbonio dei dispositivi, confermando l'attenzione alla sostenibilità

Click sul link per visualizzare la notizia.

modelli linguistici.. su un raspberry?

modelli linguistici.. su un raspberry?

beh se ci attacchi 4 coral.ai o similari alle usb potresti farlo pure con un rpi :D :D :D

modelli linguistici.. su un raspberry?

Anche io mi chiedo quali sono gli scenari d'uso, dove utilizzare un Raspberry per quell'uso.

modelli linguistici.. su un raspberry?
Su un Rpi5 con 8GB ci puoi far girare tranquillamente (nel senso che sono usabili, il 3.2 un po' più veloce del 3.1 anche se leggermente meno preciso) llama3.1 e llama3.2.
Un Rpi5 con 4GB è sufficiente per usare llm un po' più slim ma con precisione sufficiente per estrazione e presentazione contestuale di tag da allegare a url da archiviare nel proprio bookmark manager locale.

Un buon utilizzo con quella RAM sarebbe anche quello di NAS-microserver che a sto punto potrebbe pure permettersi di ospitare una piccola VM o un buon numero di servizi attivi

Prossimi mesi ne acquisterò uno per i miei usi mordi e fuggi: navigare, ascoltare radio, vedere film su vlc

Secondo me serve a poco non dico non ci siano utilizzi possibili ma 16GB di RAM su Raspberry hanno poco senso e sicuramente non per AI o simulazioni di fluidodinamica

....
Un Rpi5 con 4GB è sufficiente per usare llm un po' più slim ma con precisione sufficiente per estrazione e presentazione contestuale di tag da allegare a url da archiviare nel proprio bookmark manager locale.

Cos'è un progetto di fine corso "AI per tutti"?

Cos'è un progetto di fine corso "AI per tutti"?
Gestione bookmark tramite ricerca semantica (sia per ricerche smart, sia per autoinserimento tag nell'appropriato contesto trattato dall'intera pagina web che si vuole archiviare, lei intera o solo l'url), ovviamente tutto self-hosted

Cmq a questo punto meglio un mini-pc x86 che a circa pari prezzo del rpi5 16GB, ha più potenza, all'incirca stessa ram, non bisogna acquistare alimentatore a parte, idem per soluzione di raffreddamento, non necessità di un'espansione per ssd, ecc..

No dai, con 16 GB poi magari a qualcuno viene voglia di farci girare Windows con un desktop completo e il multitasking. Se fosse per me io tornerei solo ai modelli con 512 MB che andavano benissimo solo per Linux 😀

Ho la versione a 8 giga ed è stata una delusione totale. Il rapporto prezzo/potenza ormai è finito da tempo, con mini pc che montano N100, 12 giga di RAM ecc...a 150 euro non vedo mercato per la sola scheda Raspberry a quelli che diventeranno con tasse varie 130 euro finali. Il progetto iniziale era bello, poi non ha preso il giusto piede per poter contenere i costi e oggi da mini PC economico a scopo educativo è diventato un qualcosa di difficilmente appetibile.

16GB di RAM sono pure troppi, 8 GB erano già tanti per l'utilizzo a cui si è sempre rivolto

modelli linguistici.. su un raspberry?

Sul Pi 5 ci puoi attaccare un inference accelerator basato su chip HAILO-8L.

https://www.raspberrypi.com/products/ai-kit/


Cmq a questo punto meglio un mini-pc x86 che a circa pari prezzo del rpi5 16GB, ha più potenza, all'incirca stessa ram, non bisogna acquistare alimentatore a parte, idem per soluzione di raffreddamento, non necessità di un'espansione per ssd, ecc..

Credo che i consumi siano semrpe a vantaggio di RPi, soprattutto in applicazioni h24.

Io ho un RPi4 4GB con SSD nvme che uso come server Home Assitant e un Rpi5 8GB (sempre con SSD nvme) che uso come server general purpose e docker station (ricevitore ADS-B, etc).. credo che con un paio di mini-pc x86 avrei costi di esercizio nettamente peggiori.

Confermo cmq che i prezzi sono obiettivamente alti già a partire dal Rpi4.

No dai, con 16 GB poi magari a qualcuno viene voglia di farci girare Windows con un desktop completo e il multitasking. Se fosse per me io tornerei solo ai modelli con 512 MB che andavano benissimo solo per Linux 😀
Quoto.
Io sono affezionatissimo al mio Pi2 Model B

Ho la versione a 8 giga ed è stata una delusione totale. Il rapporto prezzo/potenza ormai è finito da tempo, con mini pc che montano N100, 12 giga di RAM ecc...a 150 euro non vedo mercato per la sola scheda Raspberry a quelli che diventeranno con tasse varie 130 euro finali. Il progetto iniziale era bello, poi non ha preso il giusto piede per poter contenere i costi e oggi da mini PC economico a scopo educativo è diventato un qualcosa di difficilmente appetibile.

i nuovi modelli costano tanto,

io ad esempio uso tantissimo i 3 model b quando devo fare prototipazione di sistemini senza avere la menata di yocto in fase di sviluppo e con la comodità di python per velocizzare lo sviluppo

Una volta era il computer per tutti a 35$, ora con i prezzi attuali non ha più molto senso

Anche io ho solo il Pi1 e Pi2 e gioco con quelli

Credo che i consumi siano semrpe a vantaggio di RPi, soprattutto in applicazioni h24.

Io ho un RPi4 4GB con SSD nvme che uso come server Home Assitant e un Rpi5 8GB (sempre con SSD nvme) che uso come server general purpose e docker station (ricevitore ADS-B, etc).. credo che con un paio di mini-pc x86 avrei costi di esercizio nettamente peggiori.
A vantaggio, sì. Rilevanti, non proprio...

Leggo che un Rpi5 in idle va sui 3.5/4W, il mio N100 sta sui 6/6.5W
2,5W di differenza, h24 sono 22kWh all'anno, circa 6,5 euro.

Se è vero che lo vendono a 140€, aggiungiamoci la base M2 e un ssd da 512, arriviamo quasi a 190€.
Il mio N100 l'ho pagato 108€. 80€ di differenza mi ammortizzano la corrente per 12 anni...

Prevedendo di cambiarlo prima di 12 anni, il minipc costa meno anche includendo i costi di esercizio...

A vantaggio, sì. Rilevanti, non proprio...

Leggo che un Rpi5 in idle va sui 3.5/4W, il mio N100 sta sui 6/6.5W
2,5W di differenza, h24 sono 22kWh all'anno, circa 6,5 euro.

Se è vero che lo vendono a 140€, aggiungiamoci la base M2 e un ssd da 512, arriviamo quasi a 190€.
Il mio N100 l'ho pagato 108€. 80€ di differenza mi ammortizzano la corrente per 12 anni...

Prevedendo di cambiarlo prima di 12 anni, il minipc costa meno anche includendo i costi di esercizio...Anzitutto non l'ha certo prescritto il dottore di comprare un RPi5 da 16GB, è evidente che quel modello è stato lanciato per chi ha esigenze specifiche che richiedono tanta ram (pensiamo a applicazioni embedded che devono far girare servizi che richiedono parecchia ram)...

...perchè che ci piaccia o no 16GB in ambito server non sono pochi, la stragrande maggioranza delle instance o delle vm si ferma a molto meno anche per hostare servizi in produzione, e queste rappresentano la stragrande maggioranza dei server, ci sono applicazioni che richiedono tanta ram ma non sono certo la normalità (poi che la gente o i CTO per ignoranza o convenienza tendano a sovradimensionare le macchine è vero, ma si tratta di un altro fenomeno che esula dalle reali necessità).

Un RPi5 da 8GB con alimentatore ufficiale, hat NVMe (che non è affatto necessaria visto che il boot da usb è ormai nativo e in termini di performance è cmq ottimo da quando hanno il controller I/O dedicato) e dissipatore costa 125 € ivato.

Una motherboard con N100 (la più economica, Asrock N100M) + alimentatore ATX (il più economico su Amazon) + 8GB di ram (un banco, il più economico su Amazon) costa 175 €.

A questo andrebbe aggiunto anche un case, visto che RPi5 lo puoi tenere anche in un cassetto e occupa pochissimo posto, una motherboard ATX con il suo alimentatore no, è una foresta di mangrovie di cavi e non può certo stare in un cassetto.

Se invece si prende un N100 fatto e finito si parte da almeno 180-230 €.

E perdonami ma l'usato non lo considero, perchè se considero il prezzo a nuovo di un RPi5 non capisco perchè debba paragonarlo al costo di una N100 usata.

In termini di assorbimento un RPi5 8GB in idle sta fisso a 3W, io col mio arrivo a 5W incluso disco USB SATA, ma ci faccio girare più di 40 container tra cui diverse istanze di Wordpress, Drupal e Matomo che hostano siti esposti mediante Cloudflare Tunnel, backup per tutti i dispositivi di casa, sync dei backup in cloud, monitoraggio di tutti i dispositivi in casa, DNS e antiAD per tutto quello che ho in casa, application server Java e tanto altro.

Un N100 in condizioni simili arriva ad assorbire sui 15-20W, quindi la forbice si allarga parecchio, sotto carico l'assorbimento degli N100 sale sensibilmente e le differenze di performance sono trascurabili in quasi tutti gli ambiti rispetto a un RPi5 se consideriamo lo scenario da home server.

Una differenza di 3-4 volte di assorbimento significa che per ammortizzare la differenza di prezzo ti serviranno almeno 3 o 4 anni; il tutto senza considerare la versatilità di RPi5 in termini di IoT (c'è tutto e il contrario di tutto che si attacca a GPIO e interfacce simili) di compattezza e posizionamento.

Prendi il nas fatto da Jeff Geerlin con la hat Radxa per 4 unità SATA, è una meraviglia di compattezza e praticità.
Per fare una cosa del genere con un N100 devi farti un sistema intero da zero, con motherboard case, alimentatore e tutto il resto, in pratica un pc che non ha niente di embedded e ha un assorbimento sensibilmente più alto.

Anzitutto non l'ha certo prescritto il dottore di comprare un RPi5 da 16GB, è evidente che quel modello è stato lanciato per chi ha esigenze specifiche che richiedono tanta ram (pensiamo a applicazioni embedded che devono far girare servizi che richiedono parecchia ram)...

...perchè che ci piaccia o no 16GB in ambito server non sono pochi, la stragrande maggioranza delle instance o delle vm si ferma a molto meno anche per hostare servizi in produzione, e queste rappresentano la stragrande maggioranza dei server, ci sono applicazioni che richiedono tanta ram ma non sono certo la normalità (poi che la gente o i CTO per ignoranza o convenienza tendano a sovradimensionare le macchine è vero, ma si tratta di un altro fenomeno che esula dalle reali necessità).

Un RPi5 da 8GB con alimentatore ufficiale, hat NVMe (che non è affatto necessaria visto che il boot da usb è ormai nativo e in termini di performance è cmq ottimo da quando hanno il controller I/O dedicato) e dissipatore costa 125 € ivato.

Una motherboard con N100 (la più economica, Asrock N100M) + alimentatore ATX (il più economico su Amazon) + 8GB di ram (un banco, il più economico su Amazon) costa 175 €.

A questo andrebbe aggiunto anche un case, visto che RPi5 lo puoi tenere anche in un cassetto e occupa pochissimo posto, una motherboard ATX con il suo alimentatore no, è una foresta di mangrovie di cavi e non può certo stare in un cassetto.

Se invece si prende un N100 fatto e finito si parte da almeno 180-230 €.

E perdonami ma l'usato non lo considero, perchè se considero il prezzo a nuovo di un RPi5 non capisco perchè debba paragonarlo al costo di una N100 usata.

In termini di assorbimento un RPi5 8GB in idle sta fisso a 3W, io col mio arrivo a 5W incluso disco USB SATA, ma ci faccio girare più di 40 container tra cui diverse istanze di Wordpress, Drupal e Matomo che hostano siti esposti mediante Cloudflare Tunnel, backup per tutti i dispositivi di casa, sync dei backup in cloud, monitoraggio di tutti i dispositivi in casa, DNS e antiAD per tutto quello che ho in casa, application server Java e tanto altro.

Un N100 in condizioni simili arriva ad assorbire sui 15-20W, quindi la forbice si allarga parecchio, sotto carico l'assorbimento degli N100 sale sensibilmente e le differenze di performance sono trascurabili in quasi tutti gli ambiti rispetto a un RPi5 se consideriamo lo scenario da home server.

Una differenza di 3-4 volte di assorbimento significa che per ammortizzare la differenza di prezzo ti serviranno almeno 3 o 4 anni; il tutto senza considerare la versatilità di RPi5 in termini di IoT (c'è tutto e il contrario di tutto che si attacca a GPIO e interfacce simili) di compattezza e posizionamento.

Prendi il nas fatto da Jeff Geerlin con la hat Radxa per 4 unità SATA, è una meraviglia di compattezza e praticità.
Per fare una cosa del genere con un N100 devi farti un sistema intero da zero, con motherboard case, alimentatore e tutto il resto, in pratica un pc che non ha niente di embedded e ha un assorbimento sensibilmente più alto.
Si parlava della versione da 16GB nella notizia, e si faceva un paragone con i minipc.

Scusa, perché mai dovrei paragonare un RPi nuovo con un N100 usato?
Perché prendere in considerazione la versione da 8GB, se stiamo parlando di quella da 16GB?

Mi pare che storci un po' i dati per compiacere il tuo punto di vista...

Ma questo tipo di soluzioni (non per forza la versione 16GB) che tipo di consumo energetico hanno?

Nel senso può valere la pena usarle per creare una sorta di server domestico in stile NAS ed eventualmente qualche altro uso oppure non ha senso e meglio orientarsi su miniPC e simili?

Oppure anche potrebbe aver senso usare una cosa del genere per "hostare" un chatbot magari destinato a soluzione per piccole aziende che vorrebbero qualcosa del genere ma con una spesa minima?

Anche io mi chiedo quali sono gli scenari d'uso, dove utilizzare un Raspberry per quell'uso.

In qualsiasi ambiente domotico dove vuoi utilizzare i comandi vocali ad esempio. il Raspberry e' anche utilizzato molto per prototipazione di robe commerciali, non solo per giochini home made.

Ad esempio puoi utilizzare un modello locale da mettere su un robot aspirapolvere e dire qualcosa come "pulisci la cucina" e lui lo capisce senza doversi collegare ad internet. O puoi comandare un forno, o altre robe simili.

senza senso... ha avuto senso fino al 3B+, tutto quello venuto dopo è stato e sarà fuori prezzo per gli utilizzi a cui è stato pensato