Agenti AI più costosi dei dipendenti: il tokenmaxxing svuota i budget aziendali

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/mercat...li_153000.html

Alcune aziende tech stanno scoprendo che i costi dei token AI per gli agenti autonomi superano quanto spenderebbero pagando dipendenti umani. Il tokenmaxxing dilaga tra i developer e Jensen Huang vuole formalizzare i token come benefit salariale

Click sul link per visualizzare la notizia.

[AlexSwitch]

Ohhppsss.... Anche qui chi mai avrebbe potuto immaginarlo? Vedasi thread su OpenAI

[Cfranco]

Costano di più e scrivono codice peggiore

Ma sono sicuramente un gran modo di risparmiare per le aziende eh

[Unrue]

E' chiaro che se non metti dei limiti alla fine spendi un botto, i token sono una risorsa, e come tale va ottimizzata, non usata a razzo di cane.

Ad ogni modo non mi stupisco di queste dinamiche. Siamo agli inizia con l'AI agentica, quindi va ottimizzato un pò tutto il workflow operativo.

[coschizza]

Originariamente inviato da Cfranco

Costano di più e scrivono codice peggiore

Ma sono sicuramente un gran modo di risparmiare per le aziende eh

ma scrivono 1000x piu codice a parita di tempo

se faccio leggere a un ai 10 libri competi per farmi dare delle informazioni quanti giorni risparmio se lo dovrei fare io?
come dice Unrue è una questione di ottimizzazione e di urarla quando serve

[mozzarello]

Al solito, la usano male, l'IA. E usano male anche gli agenti.
Ma non mi stupisco essendo tutti marmocchietti usciti dalle università negli ultimi 10-15 anni.

[psychok9]

Originariamente inviato da coschizza

ma scrivono 1000x piu codice a parita di tempo

se faccio leggere a un ai 10 libri competi per farmi dare delle informazioni quanti giorni risparmio se lo dovrei fare io?
come dice Unrue è una questione di ottimizzazione e di urarla quando serve

Si infatti non ha senso... si spende di più rispetto a un dipendente, ma produce quanto un dipendente o 10 dipendenti? token/h per prodotto?
Dipende da come si fanno questi calcoli, cambia tantissimo.

Poi ovvio che se dai il bazooka per uccidere le mosche... sei poco furbo, ma non è colpa dell'AI, che è uno strumento potentissimo nelle mani di un saggio sviluppatore/IT/ecc.

[supertigrotto]

Quindi secondo alcuni,più token uso e più sono produttivo,spiegato il paragone dell' ingegnere da 500 Mila dollari che avevano fatto.
Quindi quando facevo il tassista,avrei dovuto cambiare consumare centinaia di euro di carburante al giorno per sembrare produttivo e professionale,magari aumentando il consumo di gomme percorrendo una rotatoria un centinaio di volte,tenendo premuto un po' il freno per consumare anche i freni insieme alle gomme.
La realtà è che più usano la IA e meno usano il cervello,anche per le cose banali,meno usano il cervello e più token usano per fare stupidaggini che potrebbero fare anche loro.
Il prossimo passo?
Chiedere alla IA come si fa ad allacciarsi le scarpe.

[Miccia]

Originariamente inviato da coschizza

ma scrivono 1000x piu codice a parita di tempo

se faccio leggere a un ai 10 libri competi per farmi dare delle informazioni quanti giorni risparmio se lo dovrei fare io?

Certo, ma magari leggendo 10 libri potresti anche imparare a coniugare i verbi al congiuntivo imperfetto

[LMCH]

Originariamente inviato da coschizza

ma scrivono 1000x piu codice a parita di tempo

se faccio leggere a un ai 10 libri competi per farmi dare delle informazioni quanti giorni risparmio se lo dovrei fare io?
come dice Unrue è una questione di ottimizzazione e di urarla quando serve

C'é una enorme differenza tra scrivere 1000 volte piü codice e scrivere codice che finziona, sia validato & verificato e sopratutto sia economico da mantenere durante il suo ciclo di vita.

Anche per i 10 libri, chi ti garantisce che l'AI ti ha dato davvero tutte le informazioni rilevanti ?
Ma sopratutto, in che situazione ingestibile ti sei cacciato da dover leggere velocemente 10 libri?

[ZeroSievert]

Originariamente inviato da mozzarello

Al solito, la usano male, l'IA. E usano male anche gli agenti.
Ma non mi stupisco essendo tutti marmocchietti usciti dalle università negli ultimi 10-15 anni.

Eh questi ragazzini di quasi 40 anni

Il problema semmai sono le aziende che per il FOMO non mettono limiti ragionevoli all'utilizzo di questi strumenti.

Semplicemente é normale usare tutte le risorse a disposizione. Se il manager di turno ha fatto male i conti, problemi suoi.

Se da domani mi dicessero che ho Opus 4.7 illimitato, lo userei anche per la ricetta della pasta al pesto.

[h.rorschach]

*pop*

[demonsmaycry84]

basta seguire giacchetta di pelle e penso che tutto andra' bene...
io penso che sia normale adesso tutti ci giocano tutti ci studiano tutti imparano anche io se vado a briglie sciolte li posso bruciare come carta sul fuoco...con moderazione e sensatezza riaccendendo il cervello alle volte le cose cambiano...la modalita 2x davvero difficile da giustificare se non in rari casi di debug ed hotfix urgenti in situazioni critiche...
le cose si normalizzeranno....ma per il futuro bisogna lavorare in locale con soluzioni come spark ed avere un fallback in cloud nel caso il modello locale sia in difficolta' o non da i risultati attesi...capisco che devono rientrare negli investimenti ma vivere con l ansia del token non e' nemmeno giustificabile

[mozzarello]

Originariamente inviato da LMCH

C'é una enorme differenza tra scrivere 1000 volte piü codice e scrivere codice che finziona, sia validato & verificato e sopratutto sia economico da mantenere durante il suo ciclo di vita.

Anche per i 10 libri, chi ti garantisce che l'AI ti ha dato davvero tutte le informazioni rilevanti ?
Ma sopratutto, in che situazione ingestibile ti sei cacciato da dover leggere velocemente 10 libri?

Il problema di questo discorso è che non si tiene mai in considerazione che l'uomo sbaglia, tanto, molto, spesso troppo. C'è gente che è morta per errori di altri. E l'uomo sbaglia spesso e volentieri inconsciamente, spesso per distrazione o stanchezza o perché ha le palle girate, senza contare che il cervello umano è un contenitori di bias tarato per l'età della pietra, con tutto quello che ne consegue.

Invece quando si parla di AI pare che gli umani siano infallibili, delle macchine perfette, quando il detto "fidarsi è bene non fidarsi è meglio" è stato inventato proprio per gli umani, non le IA. Manco del tuo cervello dovresti fidarti, figurati di quello degli altri.

[mozzarello]

Originariamente inviato da ZeroSievert

Eh questi ragazzini di quasi 40 anni

Il problema semmai sono le aziende che per il FOMO non mettono limiti ragionevoli all'utilizzo di questi strumenti.

Semplicemente é normale usare tutte le risorse a disposizione. Se il manager di turno ha fatto male i conti, problemi suoi.

Se da domani mi dicessero che ho Opus 4.7 illimitato, lo userei anche per la ricetta della pasta al pesto.

No, non è normale, significa mancanza di rispetto, che è proporia dei marmocchi moderni, anche di 40 anni.

Io pago ChatGPT per conto mio e al lavoro ho sia Copilot base dentroi MS365 che Amazon Q e Kiro come agenti (che usano Claude), ogni volta che posso tranquillamente usare ChatGPT uso quello per evitare appunto di sprecare crediti Amazon per l'azienda. E L'agente lo uso solo se ne ho strettamente bisogno, perché appunto non son soldi miei e se l'azienda va in crisi magari ci rimetto io prima di loro.

Ma capisco che un ragionamento del genere per i marmocchi moderni sia troppo.

[ZeroSievert]

Originariamente inviato da mozzarello

No, non è normale, significa mancanza di rispetto, che è proporia dei marmocchi moderni, anche di 40 anni.

Io pago ChatGPT per conto mio e al lavoro ho sia Copilot base dentroi MS365 che Amazon Q e Kiro come agenti (che usano Claude), ogni volta che posso tranquillamente usare ChatGPT uso quello per evitare appunto di sprecare crediti Amazon per l'azienda. E L'agente lo uso solo se ne ho strettamente bisogno, perché appunto non son soldi miei e se l'azienda va in crisi magari ci rimetto io prima di loro.

Ma capisco che un ragionamento del genere per i marmocchi moderni sia troppo.

Ripeto. Le policy di utilizzo degli strumenti la fa l'azienda non il dipendente. Anche perche' non sta a te dipendente decidere quale sia il limite "economicamente sopportabile" di utilizzo delle LLM o di qualsiasi altro strumento. Se il dipendente fa un danno economico all'azienda pur restando dentro il regolamento e i compiti assegnati, la colpa e' del manager incapace di fare il suo lavoro(e ... 60enne visto che abbiamo deciso di fare una guerra generazionale a cazzum ). Se decidere quanto il dipendente puo' spendere al mese per un determinato task/tool e' troppa fatica, allora e' meglio che il responsabile tal dei tali cambi lavoro.

Io ho un limite di utilizzo al mese deciso dai miei manager e in base a quello mi regolo. Il rispetto non c'entra una mazza.

EDIT: tra le altre cose nella news c'e' scritto chiaro e tondo

In Meta, le performance review dei dipendenti includono anche metriche sull'utilizzo degli strumenti AI, creando di fatto una pressione a consumare token indipendentemente dall'utilità effettiva.

E Meta non e' la sola. In queste situazioni prima ti spingono ad usare l'AI a piu' non posso e poi si lamentano che costa troppo. Questa e' una scemenza al pari di quello che proponeva di valutare i programmatori in base al numero di righe di codice scritte alla settimana. E poi il problema sarebbe il dipendente? Mah!