DeepSeek invece di OpenAI in Copilot Cowork: Microsoft valuta la svolta per contenere i costi

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/de...ti_155033.html

Microsoft valuta DeepSeek V4 self-hosted su Azure come motore a basso costo per Copilot Cowork e passa a un pricing a consumo per frenare le spese sui carichi agentici. La conferma del modello scelto arriverà entro settimane

Click sul link per visualizzare la notizia.

[Nui_Mg]

Andassero tutti a farsi inculare da Polifemo, no eh?

[hackaro75]

Inizia la guerra dei modelli ... perché tutti si stan rendendo conto che l'evoluzione dell'AI è modello-agnostica... i risultati e le prestazioni sono comparabili fra un modello e l'altro. Quindi vincerà chi userà meno token, o chi li farà pagare decisamente meno.

Quindi gli obiettivi di profitto di queste mega-cap diventeranno ancor più difficili...

[LMCH]

Per quel che mi riguarda, spero che per il bene del progresso tecnico e scientifico la bolla AI esploda presto.

Con 64..128GB di ram si possono far girare cose utili ed interessanti già con i modelli locali attualmente disponibili, come pure sviluppare modelli ad hoc per utilizzi specialistici.
SENZA DIPENDERE dalle paturnie degli AI bro o del coso arancione.

Ma fino a quando non scoppia la bolla, le ram non ritorneranno ad essere accessibili nei quantitativi che servono.

[ionet]

si la speranza ormai e' che qualche testa comincia a saltare, e via molti altri quando non possono piu' proseguire con questo stillicidio
quei pochi che sopravviveranno, quando non avranno piu' concorrenza, poi non hanno piu' bisogno di investire ai ritmi attuali..

dopo finalmente hw a prezzi simbolici per tutti

[mmorselli]

Originariamente inviato da LMCH

Ma fino a quando non scoppia la bolla, le ram non ritorneranno ad essere accessibili nei quantitativi che servono.

Non penso siano legate le due cose, la bolla AI puoi paragonarla alla bolla dotcom, a formarla erano quelle aziende con prodotti interessanti sulla carta ma che non portavano profitto, quando è esplosa i vari google e facebook e tutte le realtà sane sono rimaste. Fatta pulizia il traffico Internet non è calato, è aumentato, siamo passati da farci andare bene una ADSL 256Kbit a definire 1GBps diritto inalienabile dell'umanità.

Se scoppia la bolla AI spariscono quelli che sull'AI hanno costruito servizi fotocopia uno dell'altro, non OpenAI, Anthropic, Gemini, Deepseek, ecc...

Un modello locale su della DDR5 dovrebbe andare significativamente peggio rispetto ad un MacBook Pro con memoria unificata, il quale va significativamente peggio che una GPU consumer top di gamma. Io ho sempre usato la 3090 per fare inferenza locale, non ho mai provato sulla DDR5, ma non mi aspetto nulla di ché. Con un po' di aiuto del 9950 X3D mi aspetto un 100 tok/s in prefill e 10-20 tok/s in generazione, purtroppo ho solo 64GB per cui la scelta dei modelli si stringe, ma mi è venuta un po' di curiosità adesso.

[UtenteHD]

Originariamente inviato da LMCH

Per quel che mi riguarda, spero che per il bene del progresso tecnico e scientifico la bolla AI esploda presto.

Con 64..128GB di ram si possono far girare cose utili ed interessanti già con i modelli locali attualmente disponibili, come pure sviluppare modelli ad hoc per utilizzi specialistici.
SENZA DIPENDERE dalle paturnie degli AI bro o del coso arancione.

Ma fino a quando non scoppia la bolla, le ram non ritorneranno ad essere accessibili nei quantitativi che servono.

Dicono anche con 32GB e grosso file di swapping come dimensione fissa.
Poi su Github alcuni modelli phyton dichiarano di usare meno potenza e girare bene con RTX entry level. Poi ovvio, ne metti 128GB o più e sei a posto.
Per il futuro, tutto cambierà ovviamente, modelli molto performanti che richiedono 1/10 di ptenza, hardware dedicato apposito, anche magari una scheda da aggiungere tipo la GPU, ecc.. Siamo a prima dell'inizio con l'AI.

Per articolo quello che non capisco e non mi interessa (non mi interessa perchè dopo ultimo crash in avvio senza motivo e fatto backup e fixato tutto con Linux, prossimo PC metto al 100% Linux Mint anche per lavoro che a casa ci gioco e per lavoro quei 3 programmi che hanno forse obbligo Win senza WineHQ li avvierò in VM VirtualBox, non userò più Win come SO principale al 100%) ma se tutti sono sempre stati a dare contro alla Cina, ora usano il Loro modello? A me non interessa, ma che coerenza.

[LMCH]

Originariamente inviato da mmorselli

Non penso siano legate le due cose, la bolla AI puoi paragonarla alla bolla dotcom, a formarla erano quelle aziende con prodotti interessanti sulla carta ma che non portavano profitto, quando è esplosa i vari google e facebook e tutte le realtà sane sono rimaste.

Riguardo il business strettamente legato ad AI/LLM non c'é un azienda tra quelle "grandi" che sia almeno in pareggio.

Le aziende che sopravviveranno sono solo quelle che avevano già ALTRE fonti di profitto belle massicce.

Tutti i contratti di fornitura di componenti verranno annullati (quando possibile) o rimodulati in basso semplicemente perché non ci saranno più i soldi per coprirli e neppure richiesta (visto che chi sopravviverà dovrà alzare i costi per ridurre le perdite che ci saranno comunque).

Non si tratta solo della bolla AI, ma dell'economia USA che se non ci fosse la bolla sarebbe di fatto già in recessione (con il coso arancione che si sta impegnando forte
a peggiorare ulteriormente la situazione).
Se ci va bene sarà come la crisi del 2008, ma non sarei così ottimista.

[Ripper89]

DeepSeek = Cinese
Copilot è il peggio dell'AI che puoi trovare in giro

[mmorselli]

Originariamente inviato da Ripper89

DeepSeek = Cinese

Che piaccia o meno i Cinesi stanno facendo per l'AI quello che Richard Stallman fece per il software negli anni 80

[mmorselli]

Originariamente inviato da LMCH

Riguardo il business strettamente legato ad AI/LLM non c'é un azienda tra quelle "grandi" che sia almeno in pareggio.

E' presto per il pareggio, ma se inizi a produrre utili a botte di 100 miliardi all'anno fai presto a recuperare le spese sostenute.

E' abbastanza normale per questo tipo di imprese non fare utili per il primo decennio

[ionet]

un decennio non e' poco anzi, fra un decennio il mondo potrebbe essere molto diverso, testimoni di nuovi casi come Nokia

ricordo(vagamente) che microsoft agli albori di internet, anni novanta,e non si accorse minimamente della rivoluzione imminente in arrivo, o forse lo sospettava, ma banalmente credevano di chiudere l'umanita' in un singolo sito controllato al 100% da loro(MSN)

a me sembra che attualmente l'analogia e' identica, in troppi hanno la sindrome del messia... e in tanti finiranno crocifissi

[mmorselli]

Originariamente inviato da ionet

ricordo(vagamente) che microsoft agli albori di internet, anni novanta,e non si accorse minimamente della rivoluzione imminente in arrivo, o forse lo sospettava, ma banalmente credevano di chiudere l'umanita' in un singolo sito controllato al 100% da loro(MSN)

Appunto, Microsoft ha fatto un sacco di errori, ci sono tante alternative a Windows, versioni gratuite di Office, il suo browser non è più il più usato, ha fallito miseramente negli smartphone... E nonostante questo è un'azienda da 3000 miliardi di dollari. Questo perché il first mover ha sempre un vantaggio incredibile e lo conserva nel tempo, a meno che non avvenga un cambio di paradigma, appunto quello che è avvenuto tra nokia, telefoni piccoli e leggeri -> blackberry, telefoni connessi a internet con tastiera -> iPhone, gli smartphone.

L'AI per cambiare paradigma che deve fare? La singolarità.