Mettereste una NPU dedicata all'intelligenza artificiale nel vostro PC? AMD sta valutando l'idea

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/skvide...ea_141783.html

AMD sta valutando la possibilità di sviluppare una NPU dedicata per PC, destinata a occuparsi esclusivamente dei carichi AI al posto della GPU. Il progetto è ancora in fase di valutazione e oggetto di discussioni con i clienti.

Click sul link per visualizzare la notizia.

[Paganetor]

non è un ragionamento tanto diverso da quello che avviene già con le GPU (integrata per chi non ha particolari esigenze di prestazioni o discreta per chi vuole il massimo) o per le schede audio (idem come sopra).

Bisogna solo capire se la cosa porta effettivamente dei vantaggi pratici.

[boboviz]

Tutto bellissimo.
Ma poi mi chiedo: per farci cosa? Excel??

[Mars95]

Originariamente inviato da boboviz

Tutto bellissimo.
Ma poi mi chiedo: per farci cosa? Excel??

Ci sono un sacco di applicazioni, ma non me ne viene in mente nessuna che sia utile per un utente casalingo o uso ufficio.

Ma chiunque abbia necessità di una AI propria che gira in locale troverebbe molto utile un hw del genere e una cosa del genere sarebbe utile in praticamente tutti gli ambiti lavorativi.
In realtà anche excel si ma per quella si possono usare servizi AI cloud, in locale credo sia più utili per AI addestrate per compiti specifici.

[demon77]

Anche io sono scettico.
Su un PC se mi serve potenza di calcolo per una IA di tanto in tanto va benissimo usare la GPU.. non vedo il senso di un chip dedicato.

Non capisco nemmeno il senso di una IA "locale".. che potenza ha? E che me ne faccio?
Mettendo tutto insieme non è di gran lunga meglio sia come qualità del risultato che come prestazioni in generale usare un servizio esterno on line che fa affidamento su modelli IA molto più complessi, avanzati ed ingombranti?

[-name-]

Originariamente inviato da Mars95

Ci sono un sacco di applicazioni, ma non me ne viene in mente nessuna che sia utile per un utente casalingo o uso ufficio.

Ma chiunque abbia necessità di una AI propria che gira in locale troverebbe molto utile un hw del genere e una cosa del genere sarebbe utile in praticamente tutti gli ambiti lavorativi.
In realtà anche excel si ma per quella si possono usare servizi AI cloud, in locale credo sia più utili per AI addestrate per compiti specifici.

Per farci girare i modelli in locale es:

Draw Things per creare immagini con modelli specifici di ogni tipo di immagine/stile

Ollama per avere un ChatGPT in locale senza censure e costi mensili

In generale più sicurezza per l'utente/azienda e, in teoria, costi contenuti

[marcram]

Originariamente inviato da Mars95

Ci sono un sacco di applicazioni, ma non me ne viene in mente nessuna che sia utile per un utente casalingo o uso ufficio.

Riconoscimento vocale e dettatura
Analisi foto, con etichettatura automatica, e gestione volti
Assistente personale locale

Le applicazioni poi nascono quando c'è la disponibilità della funzione...

Originariamente inviato da demon77

Mettendo tutto insieme non è di gran lunga meglio sia come qualità del risultato che come prestazioni in generale usare un servizio esterno on line che fa affidamento su modelli IA molto più complessi, avanzati ed ingombranti?

Il che vuol dire consegnare i tuoi dati sensibili ad un'entità che, probabilmente, poi li vende?

[gparlav]

Originariamente inviato da Mars95

Ci sono un sacco di applicazioni, ma non me ne viene in mente nessuna che sia utile per un utente casalingo o uso ufficio.

Ma chiunque abbia necessità di una AI propria che gira in locale troverebbe molto utile un hw del genere e una cosa del genere sarebbe utile in praticamente tutti gli ambiti lavorativi.
In realtà anche excel si ma per quella si possono usare servizi AI cloud, in locale credo sia più utili per AI addestrate per compiti specifici.

In ufficio stiamo provando a usare vari strumenti IA, con scarsi risultati. Il problema maggiore è che non riusciamo a gestire il divieto di inviare documenti interni, spesso riservati, verso l'esterno.

Avere un motore IA interno, sulle proprie macchine oppure su mini server dipartimentali disponibili per un ridotto numero di persone, potrebbe diventare la svolta. E se le cose funzionano, l'azienda è già pronta a investire pesantemente per sviluppare server interni per utilizzi interni.

Al momento, nelle mie prove fatte con servizi esterni (tutti i più famosi), i risultati sono stati scarsi. E non sono l'unico ad avere la medesima opinione in azienda.

[Alodesign]

Originariamente inviato da marcram

Il che vuol dire consegnare i tuoi dati sensibili ad un'entità che, probabilmente, poi li vende?

Come già facciamo quotidianamente.

[marcram]

Originariamente inviato da Alodesign

Come già facciamo quotidianamente.

Beh, se TU già lo fai, allora sì, a TE non cambia niente...

[boboviz]

Originariamente inviato da -name-

Per farci girare i modelli in locale es:
Draw Things per creare immagini con modelli specifici di ogni tipo di immagine/stile
Ollama per avere un ChatGPT in locale senza censure e costi mensili
In generale più sicurezza per l'utente/azienda e, in teoria, costi contenuti

Originariamente inviato da marcram

Riconoscimento vocale e dettatura
Analisi foto, con etichettatura automatica, e gestione volti
Assistente personale locale

Ripeto: tutto bellissimo, sul serio.
E tutto assolutamente di nicchia estrema (quali aziende fanno "gestione volti" in Italia, per dire?).

La cosa cambierebbe già se, per esempio, si parlasse di "database".
Ma quelli, di solito, stanno su server e non sui pc portatili di cui parla l'articolo.

Boh, aspettiamo e vediamo

[boboviz]

Originariamente inviato da gparlav

In ufficio stiamo provando a usare vari strumenti IA, con scarsi risultati. Il problema maggiore è che non riusciamo a gestire il divieto di inviare documenti interni, spesso riservati, verso l'esterno.

Exchange server on-premise lo permette da anni (e pure Exchange online)...
E l'IA non c'entra niente con questo.

[marcram]

Originariamente inviato da boboviz

Ripeto: tutto bellissimo, sul serio.
E tutto assolutamente di nicchia estrema (quali aziende fanno "gestione volti" in Italia, per dire?).

La cosa cambierebbe già se, per esempio, si parlasse di "database".
Ma quelli, di solito, stanno su server e non sui pc portatili di cui parla l'articolo.

Boh, aspettiamo e vediamo

Questi erano esempi di uso casalingo, ambiente per il quale, solitamente, è più difficile trovarne uno scopo...

In ambito aziendale, vuoi che non si trovi il modo di utilizzare questo tipo di software? Credo il limite sia solo la fantasia...

[Jack.Mauro]

Intel già lo fa, anche se non ho idea delle reali prestazioni.

La mia cpu (Intel Core Ultra 7 165H) ha già una NPU integrata chiamata "Intel AI Boost", anche se non ho ancora trovato alcun software in grado di usarla.

[boboviz]

Originariamente inviato da marcram

Questi erano esempi di uso casalingo, ambiente per il quale, solitamente, è più difficile trovarne uno scopo...

Spero tu non faccia riconoscimento facciale a casa

[Gringo [ITF]]

..... A che serve mettere l'FPU nei processori.....
..... A che serve integrare la GPU.....
.... A che serve la NPU.....

.... 2029.... A che serve mettere unità QBIT.....

.......A che serve lanciare i missili nello spazio la mia grotta e più che sufficiente.

[marcram]

Originariamente inviato da boboviz

Spero tu non faccia riconoscimento facciale a casa

Certo che lo faccio...
E' una delle funzioni più utili del gestore fotografico...

[boboviz]

Originariamente inviato da Gringo [ITF]

.......A che serve lanciare i missili nello spazio la mia grotta e più che sufficiente.

Confondere l'utilità nell'immediato con l'utilità nel lungo periodo?
Fatto.

[boboviz]

Originariamente inviato da marcram

Certo che lo faccio...
E' una delle funzioni più utili del gestore fotografico...

Good for you!!

[Gringo [ITF]]

Confondere l'utilità nell'immediato con l'utilità nel lungo periodo?
Fatto.

Introdurre tecnologie che nell'immediato possono sembrare inutili spesso è la mossa vincente, quando Atari ST e Amiga 500 sono uscite l'unica differenza erano dei Coprocessori difficili da usare e che ai programmatori di USGOLD/PROBE erano praticamente inutili, poi Psygnosis e Discovery software provarono ad usarli.

Idem QUI una NPU nell'immediato serve a poco, ma una volta che la hai disponibile c'è chi inizierà ad usarla, quindi si potranno avere NPC pensanti senza avere l'obbligo di connettersi online, stessa cosa i software, se Photoshop mette la sua AI solo online, più avanti un Clip Studio Paint potrebbe decidere di fargli concorrenza con modelli in locale ecc...

Personalmente essendo nato con Amiga preferisco avere qualcosa in più che si evolverà nel temo, piuttosto che non mettere nulla per non rischiare, si sà che 640K è un numero oltre l'inimmaginabile e che non sarà mai superato, lo disse uno dei più famosi imprenditori dell'informatica, ora perfino il CASIO da polso li supera.