Link alla notizia: https://www.hwupgrade.it/news/portatili/volenti-o-nolenti-gli-ai-pc-stanno-entrando-nelle-nostre-case_129819.html

Secondo Canalys sono stati 8,8 milioni gli AI PC spediti nel secondo trimestre del 2024. Gli analisti ritengono che il mercato dei PC capaci di gestire l'IA in locale sia sulla buona strada per toccare 44 milioni di unità nell'intero anno.

Click sul link per visualizzare la notizia.

Pediti, non venduti.

Spediti, non venduti.

Volenti o nolenti, gli AI PC stanno entrando nelle nostre case
In che senso? :mbe:
Non li ha prescritti il dottore, e le NPU sono presenti solo su una parte dei prodotti in vendita...
Se uno non lo vuole, non lo compra...

La vera domanda invece è "a cosa serve potenza di calcolo locale per l'AI?"

Assolutamente a nulla... sono tutti servizi cloud vista la mole di dati

La vera domanda invece è "a cosa serve potenza di calcolo locale per l'AI?"

Assolutamente a nulla... sono tutti servizi cloud vista la mole di dati

Non è così, la mole di dati massiccia e ingestibile è quella usata per l'apprendimento. Il risultato dell'apprendimento è un modello che è molto più piccolo e gestibile anche su un PC con le giuste caratteristiche.

In tutto questo Windows ARM gioca un ruolo cruciale, sarebbe interessante sapere anche le vendite di questo OS rispetto al fratellone x86.

considerando che un pc ha una longevità media di almeno 3/4 anni, se non oltre, quando dovro' comprarne uno nuovo probabilmente l'ia sarà passata di moda o saranno passati di moda i PC

Considerazione: puntano sui notebook,cavolata pazzesca

In casa mia non ci entreranno di sicuro.

In casa mia non ci entreranno di sicuro.
Non è che sono prodotti con materiali tossici, eh... :D

Considerando che la vita media dei PC che uso di solito supera anche i dieci anni e che quello più performante risale al 2019 posso farne a meno per altri cinque anni :asd:

Che poi in realtà tendo ad usare anche PC che hanno superato i quindici anni, quindi per quanto mi riguarda se ne riparlerà a tempo debito ;)

Ma che analisi raffinata :asd:
È chiaro che se adesso inizieranno a vendere solo "AI PC" (che poi non vuol dire un caz di niente) per forza che "entreranno nelle nostre case"...:asd:

Per quale motivo sprecare transistor e risorse per qualcosa privo di utilità reale? Per fortuna è solo una moda passeggera.

Per quale motivo sprecare transistor e risorse per qualcosa privo di utilità reale? Per fortuna è solo una moda passeggera.
L'utilità nasce con la disponibilità del mezzo.
Quando un prodotto diventa diffuso, spesso se ne inventano usi cui prima non si avrebbe pensato...

L'utilità nasce con la disponibilità del mezzo.
Quando un prodotto diventa diffuso, spesso se ne inventano usi cui prima non si avrebbe pensato...

Purtroppo sempre più spesso l'utilità viene indotta dal marketing. Spero che tutto questo clamore serva veramente a qualcosa, ma penso di no.
Ormai la tecnologia è fatta di speranze ed è più simile a un culto che all'applicazione della scienza.

Purtroppo sempre più spesso l'utilità viene indotta dal marketing. Spero che tutto questo clamore serva veramente a qualcosa, ma penso di no.
Ormai la tecnologia è fatta di speranze ed è più simile a un culto che all'applicazione della scienza.
Beh, un assistente vocale ad esempio, o un programma di trascrizione/traduzione testi... sono già servizi utili ed esistenti, solo che al momento sfruttano CPU e GPU, non adatte a questo scopo. Una NPU allevia questo tipo di carichi...

Se possono alleggerire il lavoro della GPU per l'upscaling di video a bassa risoluzione, ben vengano, altrimenti possono benissimo tenerseli per quanto mi riguarda.

Beh, un assistente vocale ad esempio, o un programma di trascrizione/traduzione testi... sono già servizi utili ed esistenti, solo che al momento sfruttano CPU e GPU, non adatte a questo scopo. Una NPU allevia questo tipo di carichi...

Non è necessaria alcuna NPU, sono sufficienti CPU e GPU. Inoltre, l'utilità di un assistente vocale è praticamente nulla, per trascrivere o tradurre un testo è sufficiente una CPU di oltre 10 anni fa.

Non è necessaria alcuna NPU, sono sufficienti CPU e GPU. Inoltre, l'utilità di un assistente vocale è praticamente nulla, per trascrivere o tradurre un testo è sufficiente una CPU di oltre 10 anni fa.
Come non sono necessarie le GPU, è sufficiente la CPU per fare grafica e videogiocare, CPU di 25 anni fa facevano tutto senza la necessità di ulteriori processori...

Certo, tu non usi assistenti vocali, quindi sono inutili.
E per tradurre/trascrivere un testo, puoi usare anche una CPU di 20 anni fa, basta lasciare il pc lavorare a palla per 24 ore per un file audio di 5 minuti... a quel punto consumi meno tempo ed elettricità a trascrivere il tutto a mano su tastiera...

Come non sono necessarie le GPU, è sufficiente la CPU per fare grafica e videogiocare, CPU di 25 anni fa facevano tutto senza la necessità di ulteriori processori...

Certo, tu non usi assistenti vocali, quindi sono inutili.
E per tradurre/trascrivere un testo, puoi usare anche una CPU di 20 anni fa, basta lasciare il pc lavorare a palla per 24 ore per un file audio di 5 minuti... a quel punto consumi meno tempo ed elettricità a trascrivere il tutto a mano su tastiera...

Dipende dal tipo di videogiochi.
Sto ancora aspettando qualcuno che mi sappia spiegare quale sia la reale utilità di un assistente virtuale. Al momento tutte le persone a cui l'ho chiesto, non hanno saputo rispondere. Per me rimane solo uno strumento di sorveglianza di massa che ascolta continuamente le conversazioni.
No, per tradurre un testo è sufficiente una CPU di 10 anni fa, spesso anche se hai bisogno di elaborare segnali audio, per quelli video è sufficiente una GPU.
Il machine learning e in particolare il deep learning, hanno bisogno di elevate potenze di calcolo solo nella fase di "addestramento (https://encrypted.tesio.it/2018/01/19/the-delusions-of-neural-networks.html)" (in realtà andrebbe chiamata di stima dei parametri del modello, ma è meno attraente) mentre in quella di classificazione/generazione la potenza richiesta è bassa.
Adesso sull'onda della moda, per fortuna in fase di caduta libera, dei modelli generatori come chatGPT (https://link.springer.com/article/10.1007/s10676-024-09775-5), vogliono aggiungere un nuova funzionalità ai PC, la NPU ovvero una CPU specializzata nello svolgere calcoli con tipi di dati a precisione ridotta (FP16, FP8, INT8).
Solo marketing per poter vendere qualcosa di nuovo, ma quasi completamente inutile.

Dipende dal tipo di videogiochi.
Appunto. Non si possono mettere a confronto videogiochi del 1995 con quelli del 2024...

Sto ancora aspettando qualcuno che mi sappia spiegare quale sia la reale utilità di un assistente virtuale. Al momento tutte le persone a cui l'ho chiesto, non hanno saputo rispondere. Per me rimane solo uno strumento di sorveglianza di massa che ascolta continuamente le conversazioni.
Finché ti affidi a soluzioni tipo Alexa o Google, è ovvio.
Ma se stiamo parlando di computazione sul proprio pc, non stiamo parlando di assistenti virtuali sul cloud...
Qual è l'utilità di un assistente virtuale? Quella di fare operazioni automatiche senza il bisogno che le faccia tu manualmente.
Qual è l'utilità della segretaria in un ufficio?

No, per tradurre un testo è sufficiente una CPU di 10 anni fa, spesso anche se hai bisogno di elaborare segnali audio, per quelli video è sufficiente una GPU.
Dipende da che riconoscimento vocale usi, da che traduzione vuoi.
Come i videogiochi, non sono gli stessi di vent'anni fa.
Oggi un trascrittore traduttore (prendo ad esempio Speech Note (https://github.com/mkiol/dsnote)) usa modelli di qualche decina di GB di dimensione, e sfrutta CPU e GPU moderne mettendole sotto stress, bloccandoti l'uso del pc durante la trascrizione, e consumando un sacco di corrente. Ovviamente, i risultati saranno incomparabilmente migliori rispetto ad usare l'IBM ViaVoice del 2003...
Se una NPU può sgravare questo lavoro al tuo pc, consumando anche meno corrente, perché no?

Il machine learning e in particolare il deep learning, hanno bisogno di elevate potenze di calcolo solo nella fase di "addestramento (https://encrypted.tesio.it/2018/01/19/the-delusions-of-neural-networks.html)" (in realtà andrebbe chiamata di stima dei parametri del modello, ma è meno attraente) mentre in quella di classificazione/generazione la potenza richiesta è bassa.
Adesso sull'onda della moda, per fortuna in fase di caduta libera, dei modelli generatori come chatGPT (https://link.springer.com/article/10.1007/s10676-024-09775-5), vogliono aggiungere un nuova funzionalità ai PC, la NPU ovvero una CPU specializzata nello svolgere calcoli con tipi di dati a precisione ridotta (FP16, FP8, INT8).
Solo marketing per poter vendere qualcosa di nuovo, ma quasi completamente inutile.
Durante la generazione usano una potenza "bassa" rispetto a quella immensa dell'apprendimento. Non "bassa" rispetto ad un uso normale di un pc.
Si tratta comunque di una potenza considerevole, che porta un normale pc ad avere risultati dopo diversi minuti (anche ore) di elaborazione.

Finché ti affidi a soluzioni tipo Alexa o Google, è ovvio.
Ma se stiamo parlando di computazione sul proprio pc, non stiamo parlando di assistenti virtuali sul cloud...
Qual è l'utilità di un assistente virtuale? Quella di fare operazioni automatiche senza il bisogno che le faccia tu manualmente.
Qual è l'utilità della segretaria in un ufficio?


Di quali assistenti parli? Non saranno mycroft, eterna promessa, o home assistant :)
Quali sarebbero? Mettere la musica, accendere la luce o fare una ricerca sul web? Magari un assistente vocale fosse in grado di fare 1/10 di quello che fa una segretaria...


Dipende da che riconoscimento vocale usi, da che traduzione vuoi.
Come i videogiochi, non sono gli stessi di vent'anni fa.
Oggi un trascrittore traduttore (prendo ad esempio Speech Note (https://github.com/mkiol/dsnote)) usa modelli di qualche decina di GB di dimensione, e sfrutta CPU e GPU moderne mettendole sotto stress, bloccandoti l'uso del pc durante la trascrizione, e consumando un sacco di corrente. Ovviamente, i risultati saranno incomparabilmente migliori rispetto ad usare l'IBM ViaVoice del 2003...
Se una NPU può sgravare questo lavoro al tuo pc, consumando anche meno corrente, perché no?

Lo STT o il TTS non sono traduttori, ma funzioni più avanzate. La dimensione elevata del download dipende molto dal modello utilizzato.
Il punto è sempre lo stesso: quale reale vantaggio comportano? Inoltre, anche supponendo siano veramente utili, se devo consumare uno o due ordini di grandezza in più di risorse per permettermi di migliorare il lavoro di forse del 10%, diciamo che è uno spreco.


Durante la generazione usano una potenza "bassa" rispetto a quella immensa dell'apprendimento. Non "bassa" rispetto ad un uso normale di un pc.
Si tratta comunque di una potenza considerevole, che porta un normale pc ad avere risultati dopo diversi minuti (anche ore) di elaborazione.

Diversi minuti o addirittura ore di elaborazione per fare cosa esattamente?