NVIDIA presenta un supercomputer per l'IA generativa low-cost, il regalo di Natale di Jensen Huang

NVIDIA presenta un supercomputer per l'IA generativa low-cost, il regalo di Natale di Jensen Huang

Jetson Orin Nano Super offre un miglioramento fino a 1,7 volte nelle prestazioni di intelligenza artificiale generativa, supportando i modelli più diffusi per hobbisti, sviluppatori e studenti. Il prezzo di 249 dollari.

di pubblicata il , alle 06:29 nel canale Sistemi
JetsonNVIDIA
 

Jetson Orin Nano Super Developer Kit è il nuovo "supercomputer compatto per l'intelligenza artificiale generativa" presentato in video direttamente da Jensen Huang, CEO di NVIDIA. Jetson Orin Nano Super Developer Kit, grande quanto il palmo di una mano, rappresenta un'opzione molto interessante per sviluppatori commerciali, studenti e appassionati di tecnologia.

Con un prezzo di 249 dollari, dimezzato rispetto ai 499 dollari della versione precedente, il dispositivo promette offre un incremento delle prestazioni di inferenza AI fino a 1,7 volte rispetto alla versione precedente, con un aumento del 70% delle capacità operative (fino a 67 INT8 TOPS) e una larghezza di banda di memoria maggiorata del 50% (fino a 102 GB/s).

Il dispositivo si rivela particolarmente adatto a una vasta gamma di applicazioni, inclusa la creazione di chatbot basati su modelli linguistici di grandi dimensioni (LLM), lo sviluppo di agenti AI visivi e l'implementazione di robot dotati di intelligenza artificiale.

L'incremento delle prestazioni non si limita al nuovo modello: un aggiornamento software consentirà anche ai possessori del precedente Jetson Orin Nano Developer Kit di ottenere miglioramenti significativi.

Il Jetson Orin Nano Super Developer Kit è dotato di un modulo Jetson Orin Nano da 8 GB (LPDDR5) e di una scheda di supporto per la prototipazione di applicazioni AI edge. Il modulo integra una GPU basata sull'architettura NVIDIA Ampere (1024 CUDA cores e 32 Tensor core), accompagnata da una CPU Arm a 6 core (Cortex-A78AE v8.2 64-bit), che consente di eseguire simultaneamente più pipeline di applicazioni AI ad alte prestazioni. Il sistema supporta fino a quattro telecamere, offrendo una maggiore risoluzione e una più alta velocità dei fotogrammi rispetto ai modelli precedenti. Presente il supporto a schede SD e unità NVMe.

Jetson Orin Nano Super è pensato per rispondere alle esigenze in continua evoluzione dell'AI generativa. NVIDIA offre supporto con tutorial semplici e una vasta comunità open source. Inoltre, il sistema è compatibile con software avanzati come NVIDIA Isaac per la robotica, NVIDIA Metropolis per la visione artificiale e NVIDIA Holoscan per l'elaborazione dei sensori.

Per ridurre i tempi di sviluppo, NVIDIA mette a disposizione strumenti come Omniverse Replicator per la generazione di dati sintetici e il TAO Toolkit per ottimizzare i modelli AI preaddestrati disponibili nel catalogo NGC. I partner dell'ecosistema Jetson offrono ulteriori strumenti software, supporto per sensori e telecamere, schede di supporto personalizzate e servizi di progettazione.

L'aggiornamento software non si limita al solo Jetson Orin Nano Super: tutti i modelli della serie Orin Nano e Orin NX potranno beneficiare di un aumento delle prestazioni dell'AI generativa fino a 1,7 volte. I proprietari di dispositivi esistenti possono scaricare oggi stesso la nuova versione del JetPack SDK per sbloccare queste capacità aggiuntive.

Ulteriori dettagli su Jetson Orin Nano Super Developer Kit potete trovarli a questo indirizzo.

I migliori sconti su Amazon oggi
-14%

ECOVACS GOAT G1-800 robot tagliaerba 800mq senza filo perimetrale, Rasaerba robot con mappatura automatica, posizionamento Banda Ultra Larga+Vision+GPS, gestione di 16 zone, pendenza fino al 45%

699.00 599.00€ Compra ora
-62%

Oral-B Spazzolino Elettrico Ricaricabile iO 2 Nero, 1 Spazzolino Elettrico, 1 Testina Di Ricambio, Custodia Da Viaggio, Supporto per testine + 1 Dentifricio Oral-B Pro-Expert, Pulizia Denti

129.99 49.99€ Compra ora
-3%

Lenovo, Notebook Portatile, V15 G4 IRU, Display 15,6" Full HD, Intel Core i5-13420H, Ram 16 GB DDR4, 512 GB SSD NVMe, Win 11 Pro, Libre Office, Preconfigurato

432.49 419.00€ Compra ora
9 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
jepessen18 Dicembre 2024, 09:03 #1
Ma sara' possibile acquistarlo per noi comuni mortali o bisogna superare una trafila commerciale per cui o sei un'azienda o nisba? Perche' sinceramente mi interesserebbe...
s12a18 Dicembre 2024, 09:09 #2
È una porcheria con praticamente hardware da smartphone, non un supercomputer.
GPU dalla potenza ben al di sotto di una RTX3050, 8GB DDR5 da 100GB/s di banda a malapena.
Saturn18 Dicembre 2024, 09:11 #3
La parola "regalo" e il nome di "Jensen Huang" nella stessa frase, nella stessa riga, nella stessa pagina, nello stesso sito, nello stesso pianeta, nello stesso universo, nella stessa dimensione spazio-temporale non possono coesistere.
Gyammy8518 Dicembre 2024, 09:16 #4
Originariamente inviato da: s12a
È una porcheria con praticamente hardware da smartphone, non un supercomputer.
GPU dalla potenza ben al di sotto di una RTX3050, 8GB DDR5 da 100GB/s di banda a malapena.


"buongiorno carissimo, ho fra le mani un prodotto incredibile da parte del suo fornitore di soluzioni ia reconstructed tracing aziendaleh!"

"ah sì???? quanto costa?"

"solo 350 euro praticamente un caffè semi bevibile!"

"ohhhh subito 1000 qui nelle mie mani! ma funziona?"

"bohhhhh"

E' il brand awareness
supertigrotto18 Dicembre 2024, 10:21 #5
Già visti i modelli prima ma nei kit dei bracci robotici cinesi su AliExpress,e qualcosa in qualche drone quadricottero.
Comunque tutte parolone,allora visto che questo costa 249 dollari, perché le aziende di IA spendono circa 40.000 dollari a scheda h100?
C'è scritto che questo dispositivo è adatto anche a creare chat bot..... cioè un chat bot che ti dice,io andare,io dormire,io mangiare,io Tarzan?
Spacciarlo per supercomputer per IA è come spacciare le consolle cinesi vendute con i giochi caricati che vendevano negli anni 90 per TV ,come consolle di ultima generazione a pari PS e Xbox.
Tedturb018 Dicembre 2024, 11:50 #6
Meh.. NUC tutta la vita
carloUba18 Dicembre 2024, 14:58 #7
Originariamente inviato da: supertigrotto
Già visti i modelli prima ma nei kit dei bracci robotici cinesi su AliExpress,e qualcosa in qualche drone quadricottero.
Comunque tutte parolone,allora visto che questo costa 249 dollari, perché le aziende di IA spendono circa 40.000 dollari a scheda h100?
C'è scritto che questo dispositivo è adatto anche a creare chat bot..... cioè un chat bot che ti dice,io andare,io dormire,io mangiare,io Tarzan?
Spacciarlo per supercomputer per IA è come spacciare le consolle cinesi vendute con i giochi caricati che vendevano negli anni 90 per TV ,come consolle di ultima generazione a pari PS e Xbox.


Ma questo è per Edge AI cosa c'entrano le GPU?
s12a18 Dicembre 2024, 15:20 #8
Il punto è che (non solo qui su HWUpgrade, ma anche altrove), questo Jetson sembra essere spacciato come soluzione per chi vorrebbe cimentarsi nell'IA generativa (LLM, modelli video/audio) senza spendere troppo, ma è in realtà solo un kit di sviluppo per precise esigenze, dall'hardware alquanto limitato. Un qualunque PC con scheda video dalla RTX3060 in su è superiore per tali usi, e se hai una GPU un po' più vecchia, ma memorie DDR5-6400 o superiori, con gli LLM (chatbot, insomma) vai uguale o meglio, senza i limiti degli 8GB condivisi.
NiMx24 Dicembre 2024, 13:32 #9
Originariamente inviato da: supertigrotto
C'è scritto che questo dispositivo è adatto anche a creare chat bot..... cioè un chat bot che ti dice,io andare,io dormire,io mangiare,io Tarzan?.


Heheh non sei del settore, vero?
Non funziona così, NESSUNO allenerebbe mai un Llm da zero, è come cercare di reinventare la ruota.

Il flusso corretto è prendere uno dei mille Llm open source in grado di esprimersi correttamente, e riallenarlo con nuovi dati (fine tuning, reinforcement, e varie altre tecniche) pertinenti al caso d'uso.
Con i vincoli specifici che puoi dare in input e output puoi fare anche in modo che llm risponda solo a determinati temi, in tal caso è consigliabile un llm piccolo veloce ed economico ma sufficientemente avanzato da creare frasi complesse e corrette.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^