NVIDIA Chat with RTX ci dà un assaggio della nuova era degli AI PC

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/skvide...pc_124228.html

L'IA generativa, oggi relegata all'online e gestita da grandi datacenter, punta a girare sui nostri PC, in locale. Con la tech demo "Chat with RTX" NVIDIA ci dà un assaggio di futuro, portando sul PC una sorta di ChatGPT.

Click sul link per visualizzare la notizia.

[UtenteHD]

Beh, tutto si spostera' piano piano con HW dedicati nel locale per quanto piu' possibile, cambiera' tutto molto in fretta..

[Saturn]

Ho la netta sensazione che i miei "Core2 Quad/nvidia gt730" con Windows 11 "Forzato" non rientreranno nei requisiti...

Mi hanno servito bene, ora è tempo di dar loro il giusto riposo !

[UtenteHD]

Guarda le IA opensource famose, vedrai che ci rientri anche con una GPU serie 10 o 20 e con tanta pazienza, poi magari non e' scritto ma ci gira.
I pre-requisiti di questa mi sembrano troppo alti mediamente parlando forse per spingere sulle RTX o nulla, boh.

[Saturn]

Originariamente inviato da UtenteHD

Guarda le IA opensource famose, vedrai che ci rientri anche con una GPU serie 10 e con tanta pazienza.
I pre-requisiti di questa mi sembrano troppo alti mediamente parlando.

Si già mi ci diverto, sia con una 1060 6gb che con una 1070 8gb che ovviamente con l'ARC A770 16gb + nvidia GT 1030 (lavorano insieme, che carine ) - ho presente...!

Quoto comunque !

[silvanotrevi]

Cioè prima gli devi dare in pasto i dati e poi puoi fare domande al chatbox?
Roba inutile, solo aria fritta e marketing questa IA. Non ne vedo proprio l'utilità mi spiace. E ci stanno bombardando ogni giorno con queste news

[demon77]

Originariamente inviato da Saturn

Si già mi ci diverto, sia con una 1060 6gb che con una 1070 8gb che ovviamente con l'ARC A770 16gb + nvidia GT 1030 (lavorano insieme, che carine ) - ho presente...!

Quoto comunque !

Non mi è molto chiaro a cosa serve una IA locale in questo senso..
Ora.. chat GPT e simili funzionano e fanno tante cose perchè hanno una sacco di potenza e pure uno store di informazioni titanico.

Con una mini IA sul mio pc in locale che ci faccio? Gli chiedo dove ho messo le ultime foto scaricate?
Cioè.. nn penso sia roba utile o comoda più di quel tanto..

[ninja750]

Originariamente inviato da Redazione di Hardware Upgrade

ah quindi il bot nvidia sa chi parla male di lui

[Saturn]

Originariamente inviato da demon77

Non mi è molto chiaro a cosa serve una IA locale in questo senso..
Ora.. chat GPT e simili funzionano e fanno tante cose perchè hanno una sacco di potenza e pure uno store di informazioni titanico.

Con una mini IA sul mio pc in locale che ci faccio? Gli chiedo dove ho messo le ultime foto scaricate?
Cioè.. nn penso sia roba utile o comoda più di quel tanto..

Ca§§eggio o poco più...almeno nel mio caso !

[Saved_ita]

Beh in alcuni contesti non altamente informatizzati potrebbe essere un sistema estremamente efficiente di ricerca di informazioni.
Pensando al mio caso: lavoro nell'ambito della pubblica amministrazione; spesso devo recuperare informazioni TECNICHE da contenuti divulgati tramite dei banali PDF farciti come tacchini di termini giuridici che nessuno capisce con miliardi di riferimenti ad altre norme, che quando devi andare a recuperare ti fanno perdere decine di ore... beh se riuscisse a dare una risposta anche grossolana o anche semplicemente riuscisse a dirmi dove recuperare l'informazione che mi serve nel mio archivio (che nella realtà è una maledetta cartella zeppa di pdf, word ed excel), sarebbe una mano santa.

[UtenteHD]

Originariamente inviato da silvanotrevi

Cioè prima gli devi dare in pasto i dati e poi puoi fare domande al chatbox?
Roba inutile, solo aria fritta e marketing questa IA. Non ne vedo proprio l'utilità mi spiace. E ci stanno bombardando ogni giorno con queste news

Stiamo parlando di AI chat bot offline, non dai in pasto nulla e tutto nella privacy (e per sicurezza Tua spegni pure internet) e' come chatgpt offline.
Per favore, smettetela di paragona l'IA a quella fuffa degli NFT.
Comincia a lavorare in grafica ad esempio con queste IA sia per grafica editor che per creazione di documenti di lavoro, revisioni, aiuto, correzzioni ecc.. una Tecnologia che sostituisce (purtroppo ed in alcuni casi per fotuna) completamente una persona non e' aria fritta, almeno questa funziona veramente, basta avere la fantasia ed ingegno per usarla.
Aria fritta per ora sono NFT e monete elettroniche che fino ad ora non hanno ancora dimostrato a che servono di bene al Mondo.

Originariamente inviato da demon77

Non mi è molto chiaro a cosa serve una IA locale in questo senso..
Ora.. chat GPT e simili funzionano e fanno tante cose perchè hanno una sacco di potenza e pure uno store di informazioni titanico.

Con una mini IA sul mio pc in locale che ci faccio? Gli chiedo dove ho messo le ultime foto scaricate?
Cioè.. nn penso sia roba utile o comoda più di quel tanto..

No, qui si sta parlando di avere un chatbot AI tipo ChatGPT in locale senza bisogno di usare internet, infatti occupa 100GB, stanno uscendo molte IA anche opensource per i vari aiuti ed usi in locale.
Solo che questa ha dei pre requisiti stranamente troppo alti.

[demon77]

Originariamente inviato da UtenteHD

No, qui si sta parlando di avere un chatbot AI tipo ChatGPT in locale senza bisogno di usare internet, infatti occupa 100GB, stanno uscendo molte IA anche opensource per i vari aiuti ed usi in locale.
Solo che questa ha dei pre requisiti stranamente troppo alti.

Non saprei.. non ho parametri di misura.
Però se chat gpt funziona è perchè ha dietro millemila server e tera e tera di informazioni da cui attingere.

Una mini IA in locale con 100gb che deve fare?

[UtenteHD]

100GB non sono pochi, probabilmente contiene tutte le principali informazioni che potresti chiedere, provane una offline opensource e vedi o cerca maggiori info nelle loro pagine su git ecc..

Originariamente inviato da Saturn

Si già mi ci diverto, sia con una 1060 6gb che con una 1070 8gb che ovviamente con l'ARC A770 16gb + nvidia GT 1030 (lavorano insieme, che carine ) - ho presente...!

Quoto comunque !

Grande, con impegno e fatica anche solo la 1030 ce la fa (grande 1030) HAHA

[daviderules]

Originariamente inviato da demon77

Non mi è molto chiaro a cosa serve una IA locale in questo senso..
Ora.. chat GPT e simili funzionano e fanno tante cose perchè hanno una sacco di potenza e pure uno store di informazioni titanico.

Con una mini IA sul mio pc in locale che ci faccio? Gli chiedo dove ho messo le ultime foto scaricate?
Cioè.. nn penso sia roba utile o comoda più di quel tanto..

Io sto installando per poter valutare, io lavoro con una suite di software industriale iper complessa che ha una decina di manuali di utilizzo per le varie funzionalità per un totale di migliaia di pagine di documentazione oltre a centinaia di pagine di miei appunti personali, avere tutto centralizzato e poter consultare il tutto in maniera colloquiale potenzialmente potrebbe essere una svolta incredibile per me (se funziona).

[demon77]

Originariamente inviato da daviderules

Io sto installando per poter valutare, io lavoro con una suite di software industriale iper complessa che ha una decina di manuali di utilizzo per le varie funzionalità per un totale di migliaia di pagine di documentazione oltre a centinaia di pagine di miei appunti personali, avere tutto centralizzato e poter consultare il tutto in maniera colloquiale potenzialmente potrebbe essere una svolta incredibile per me (se funziona).

Ah ecco questo potrebbe essere un impiego interessante..