Fable 5, il modello Mythos di Anthropic per tutti: gratis solo fino al 22 giugno

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/fa...no_154603.html

Anthropic apre al pubblico il primo modello Mythos-class. Le richieste su cybersecurity, biologia e distillazione vengono dirottate su Opus 4.8 in meno del 5% delle sessioni. Incluso negli abbonamenti fino al 22 giugno, poi utilizzo a crediti

Click sul link per visualizzare la notizia.

[UtenteHD]

Da quello che ho capito è meno potente ecc..
Mah? non era troppo potente per essere rilasciato ? Cosa è cambiato che un po' meno potente si può?

[LMCH]

Originariamente inviato da UtenteHD

Da quello che ho capito è meno potente ecc..
Mah? non era troppo potente per essere rilasciato ? Cosa è cambiato che un po' meno potente si può?

É tutto marketing.

Notare anche i prezzo per token dimezzato rispetto alla previee, significa che per l'uso previsto il consumo di token é eccessivamente alto (rispetto ad altre tipologie di utilizzo) se si vogliono ottenere risultati decenti.

[lollo9]

Originariamente inviato da UtenteHD

Da quello che ho capito è meno potente ecc..
Mah? non era troppo potente per essere rilasciato ? Cosa è cambiato che un po' meno potente si può?

È lo stesso modello. Pari pari.
Non lo hanno depotenziato ma ci hanno messo un classificatore semantico a monte ed a valle delle query, e pure a valle dell’output. solo che invece di piantarsi lì e rifiutare, degrada a opus 4.8 se la domanda verte su temi che non vogliono che fable5 affronti in GA. ed è molto ma molto prudente a quanto è dato vedere per adesso (impressione mia. ma pure su reddit non si contano più ormai le discussioni su quanto facilmente scenda ad opus)

Originariamente inviato da LMCH

É tutto marketing.

Notare anche i prezzo per token dimezzato rispetto alla previee, significa che per l'uso previsto il consumo di token é eccessivamente alto (rispetto ad altre tipologie di utilizzo) se si vogliono ottenere risultati decenti.

Marketing c’è, ok, dovranno pur venderlo sto coso.
Per il resto anche no.

Da preview a GA il costo cala sempre, i costi di inferenza calano con l’ottimizzazione: quantizzazione, batching più aggressivo, KV caching, speculative decoding ecc.
il prezzo alto in preview serve anche a limitare la domanda quando hai poche GPU da dedicare. in GA hai più capacità allocata e inferenza più efficiente, quindi abbassi. è successo con OpenAI ad ogni ciclo, con i modelli anthropic precedenti, con gemini, con mistral.

ma poi pure prezzo per token e numero di token consumati sono due variabili indipendenti
se il problema fosse che il modello brucia troppi token per dare risultati decenti, cioè reasoning lungo, output verbosi, dimezzare il prezzo unitario sarebbe un modo davvero sadomaso e costoso di nasconderlo. e comunque chi lo usa via API lo vedrebbe in fattura in 24h
se ci fosse quel problema, lo sapremmo dai benchmark indipendenti su costo-per-task, non dal prezzo di listino

vero è che costa ancora parecchio, e brucia token. un buon system prompt fa miracoli, ma serve passare da API

[najmarte]

i - Fable è il modello più avanzato e consuma i crediti d’utilizzo 2× più velocemente di Opus

Già con opus hitto il limite orario in 10 minuti...

[mozzarello]

Mah, io comunque tutta 'sta differenza tra modelli non la vedo. Ho ChatGPT Plus e Google AI Plus, uso Perplexity e pure Grok ogni tanto e al lavoro uso sia Copilot dentro MS365 che soprattutto Claude Opus in Kiro, e alla fine il lavoro lo fanno tutti, salvo sparare stronzate intergalattiche, tutti, quando gli si chede qualcosa per cui non sono stati addestratati e gli tocca cercare su Internet. Soprattutto con modelli instant, se li fai ragionare un po', le vaccate da ricerche internet diminuiscono, ma per quello tocca pagare per forza.

Resta che ChatGPT fa le gnocche migliori, quindi è il migliore.