Volenti o nolenti, gli AI PC stanno entrando nelle nostre case

[pachainti]

Originariamente inviato da marcram

Come non sono necessarie le GPU, è sufficiente la CPU per fare grafica e videogiocare, CPU di 25 anni fa facevano tutto senza la necessità di ulteriori processori...

Certo, tu non usi assistenti vocali, quindi sono inutili.
E per tradurre/trascrivere un testo, puoi usare anche una CPU di 20 anni fa, basta lasciare il pc lavorare a palla per 24 ore per un file audio di 5 minuti... a quel punto consumi meno tempo ed elettricità a trascrivere il tutto a mano su tastiera...

Dipende dal tipo di videogiochi.
Sto ancora aspettando qualcuno che mi sappia spiegare quale sia la reale utilità di un assistente virtuale. Al momento tutte le persone a cui l'ho chiesto, non hanno saputo rispondere. Per me rimane solo uno strumento di sorveglianza di massa che ascolta continuamente le conversazioni.
No, per tradurre un testo è sufficiente una CPU di 10 anni fa, spesso anche se hai bisogno di elaborare segnali audio, per quelli video è sufficiente una GPU.
Il machine learning e in particolare il deep learning, hanno bisogno di elevate potenze di calcolo solo nella fase di "addestramento" (in realtà andrebbe chiamata di stima dei parametri del modello, ma è meno attraente) mentre in quella di classificazione/generazione la potenza richiesta è bassa.
Adesso sull'onda della moda, per fortuna in fase di caduta libera, dei modelli generatori come chatGPT, vogliono aggiungere un nuova funzionalità ai PC, la NPU ovvero una CPU specializzata nello svolgere calcoli con tipi di dati a precisione ridotta (FP16, FP8, INT8).
Solo marketing per poter vendere qualcosa di nuovo, ma quasi completamente inutile.

[marcram]

Originariamente inviato da pachainti

Dipende dal tipo di videogiochi.

Appunto. Non si possono mettere a confronto videogiochi del 1995 con quelli del 2024...

Sto ancora aspettando qualcuno che mi sappia spiegare quale sia la reale utilità di un assistente virtuale. Al momento tutte le persone a cui l'ho chiesto, non hanno saputo rispondere. Per me rimane solo uno strumento di sorveglianza di massa che ascolta continuamente le conversazioni.

Finché ti affidi a soluzioni tipo Alexa o Google, è ovvio.
Ma se stiamo parlando di computazione sul proprio pc, non stiamo parlando di assistenti virtuali sul cloud...
Qual è l'utilità di un assistente virtuale? Quella di fare operazioni automatiche senza il bisogno che le faccia tu manualmente.
Qual è l'utilità della segretaria in un ufficio?

No, per tradurre un testo è sufficiente una CPU di 10 anni fa, spesso anche se hai bisogno di elaborare segnali audio, per quelli video è sufficiente una GPU.

Dipende da che riconoscimento vocale usi, da che traduzione vuoi.
Come i videogiochi, non sono gli stessi di vent'anni fa.
Oggi un trascrittore traduttore (prendo ad esempio Speech Note) usa modelli di qualche decina di GB di dimensione, e sfrutta CPU e GPU moderne mettendole sotto stress, bloccandoti l'uso del pc durante la trascrizione, e consumando un sacco di corrente. Ovviamente, i risultati saranno incomparabilmente migliori rispetto ad usare l'IBM ViaVoice del 2003...
Se una NPU può sgravare questo lavoro al tuo pc, consumando anche meno corrente, perché no?

Il machine learning e in particolare il deep learning, hanno bisogno di elevate potenze di calcolo solo nella fase di "addestramento" (in realtà andrebbe chiamata di stima dei parametri del modello, ma è meno attraente) mentre in quella di classificazione/generazione la potenza richiesta è bassa.
Adesso sull'onda della moda, per fortuna in fase di caduta libera, dei modelli generatori come chatGPT, vogliono aggiungere un nuova funzionalità ai PC, la NPU ovvero una CPU specializzata nello svolgere calcoli con tipi di dati a precisione ridotta (FP16, FP8, INT8).
Solo marketing per poter vendere qualcosa di nuovo, ma quasi completamente inutile.

Durante la generazione usano una potenza "bassa" rispetto a quella immensa dell'apprendimento. Non "bassa" rispetto ad un uso normale di un pc.
Si tratta comunque di una potenza considerevole, che porta un normale pc ad avere risultati dopo diversi minuti (anche ore) di elaborazione.

[pachainti]

Originariamente inviato da marcram

Finché ti affidi a soluzioni tipo Alexa o Google, è ovvio.
Ma se stiamo parlando di computazione sul proprio pc, non stiamo parlando di assistenti virtuali sul cloud...
Qual è l'utilità di un assistente virtuale? Quella di fare operazioni automatiche senza il bisogno che le faccia tu manualmente.
Qual è l'utilità della segretaria in un ufficio?

Di quali assistenti parli? Non saranno mycroft, eterna promessa, o home assistant
Quali sarebbero? Mettere la musica, accendere la luce o fare una ricerca sul web? Magari un assistente vocale fosse in grado di fare 1/10 di quello che fa una segretaria...

Originariamente inviato da marcram

Dipende da che riconoscimento vocale usi, da che traduzione vuoi.
Come i videogiochi, non sono gli stessi di vent'anni fa.
Oggi un trascrittore traduttore (prendo ad esempio Speech Note) usa modelli di qualche decina di GB di dimensione, e sfrutta CPU e GPU moderne mettendole sotto stress, bloccandoti l'uso del pc durante la trascrizione, e consumando un sacco di corrente. Ovviamente, i risultati saranno incomparabilmente migliori rispetto ad usare l'IBM ViaVoice del 2003...
Se una NPU può sgravare questo lavoro al tuo pc, consumando anche meno corrente, perché no?

Lo STT o il TTS non sono traduttori, ma funzioni più avanzate. La dimensione elevata del download dipende molto dal modello utilizzato.
Il punto è sempre lo stesso: quale reale vantaggio comportano? Inoltre, anche supponendo siano veramente utili, se devo consumare uno o due ordini di grandezza in più di risorse per permettermi di migliorare il lavoro di forse del 10%, diciamo che è uno spreco.

Originariamente inviato da marcram

Durante la generazione usano una potenza "bassa" rispetto a quella immensa dell'apprendimento. Non "bassa" rispetto ad un uso normale di un pc.
Si tratta comunque di una potenza considerevole, che porta un normale pc ad avere risultati dopo diversi minuti (anche ore) di elaborazione.

Diversi minuti o addirittura ore di elaborazione per fare cosa esattamente?