NVIDIA aggiorna ChatRTX: il chatbot che sfrutta le GPU GeForce è più versatile e potente

NVIDIA aggiorna ChatRTX: il chatbot che sfrutta le GPU GeForce è più versatile e potente

Nuovi modelli tra cui Google Gemma e una funzionalità che consente di usare la voce per l'interazione sono le grandi novità di ChatRTX, il chatbot di NVIDIA che gira in locale sui PC con determinate GPU GeForce.

di pubblicata il , alle 08:41 nel canale Schede Video
Intelligenza ArtificialeRTXNVIDIA
 

NVIDIA ha aggiornato il chatbot sperimentale ChatRTX, in grado di girare in locale su PC Windows 11 dotati di 16 GB di RAM e una GPU GeForce RTX 3000 / 4000 con almeno 8 GB di VRAM.

ChatRTX è un assistente personale a cui potete dare in pasto i documenti presenti nel PC affinché la loro consultazione diventi più immediata e agevole. È un po' come avere ChatGPT sul proprio PC, con due differenze fondamentali: i dati rimangono sempre sul vostro computer, quindi non c'è alcuna chiamata esterna, e agisce solo sui dati forniti, non su altro.

Se per esempio date a ChatRTX una cartella con moltissimi documenti PDF di riunioni, potrete chiedere al chatbot di pescare l'informazione o il dato che vi serve, semplicemente chiedendola in modo naturale, evitandovi così dover consultare molteplici PDF, perdendo tempo e, spesso e volentieri, la pazienza.

La novità dell'ultima versione d NVIDIA ChatRTX è la capacità di sfruttare nuovi modelli IA: a Mistral e Llama 2 si aggiungono Google Gemma, ChatGLM3 e OpenAI CLIP (Contrastive Language-Image Pre-training), quest'ultimo in grado di facilitare la ricerca tra le foto.

ChatRTX è disponibile come download da 36 GB dal sito web di NVIDIA e, al momento, funziona bene se sfruttato in lingua inglese. Un'altra novità dell'ultima versione è il supporto alle query vocali. NVIDIA ha integrato Whisper, un sistema di riconoscimento vocale IA che vi consente di cercare tra i vostri dati usando la voce. Infine, come piccola nota a margine, abbiamo notato che NVIDIA ha leggermente modificato il nome del chatbot: da Chat with RTX a ChatRTX.

1 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
UtenteHD02 Maggio 2024, 09:23 #1
Bah, sto bot AI RTX ha i requisiti troppo alti per girare in locale, gli altri offline, basta cercare, richiedono molto meno, sia da GPU che da VRAM, molti girano con fatica anche su una GT1030 (ed ovviamente non e' RTX), ma girano.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^