Cento agenti IA lasciati soli: qualcuno bara, ma gli altri fanno la spia. I risultati dello studio

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ce...io_158901.html

Cento agenti IA di Google DeepMind, lasciati liberi di comunicare tra loro per risolvere problemi di matematica, si sono divisi in bari, convertiti e delatori dopo che uno di loro ha scoperto una scorciatoia per completare il lavoro

Click sul link per visualizzare la notizia.

[demon77]

Mi allaccio alla news per chiedere una delucidazione in merito al concetto di "AGENTE".

Quando io parlo con gemini o chi volete mi connetto ad un mega datacenter dove gira il modellone LLM che vive sfruttando le risorse del datacenter ed è una unità unica che immagino affronti milioni di conversazioni in simultanea con altrettanti utenti.. Corretto?

Un agente invece è un piccola unità indipendente che svolge unu determinato compito.. ma nel pratico di cosa si tratta? Di un piccolo LLM in sandbox che opera per i fatti suoi come fosse una vistual machine dentro al datacenter?

[bonzoxxx]

Originariamente inviato da demon77

Mi allaccio alla news per chiedere una delucidazione in merito al concetto di "AGENTE".

Quando io parlo con gemini o chi volete mi connetto ad un mega datacenter dove gira il modellone LLM che vive sfruttando le risorse del datacenter ed è una unità unica che immagino affronti milioni di conversazioni in simultanea con altrettanti utenti.. Corretto?

Un agente invece è un piccola unità indipendente che svolge unu determinato compito.. ma nel pratico di cosa si tratta? Di un piccolo LLM in sandbox che opera per i fatti suoi come fosse una vistual machine dentro al datacenter?

Provo a spiegartelo io dato che ormai sto sperimentando da tempo llm locale + agente, in questo caso Hermes.

L'LLM, il modello, sia che giri in locale o cloud, altri non è che un modello linguistico più o meno grande al quale puoi fare domande e lui ti risponde in base a quello che conosce. Nel tempo i "chatbot" sono evoluti sia come capacità di inferenza che per l'aggiunta di strumenti che ne hanno ampliato le capacità.

Un agente invece è diverso perchè prende l'input che gli dai e in autonomia si muove per portare a termine quello che gli hai chiesto. Ad esempio, ad un agente evoluto potresti ipoteticamente chiedere di crearti un'app android che faccia una cosa in particolare e lui si muove in autonomia per fare la bozza, crearla e testarla.

Nel mio caso putroppo devo appoggiarmi ad un modello locale piccolo, massimo 9B, perchè la 3080 ha 10GB di VRAM e per quanto molto veloce sempre 9B sono: da ciò ne deriva una capacità di ragionamento limitata, compensata in parte dalla capacità dell'agente di accedere ai siti web in autonomia e restituire delle informazioni aggiornate.

Hermes nel caso specifico ha un file soul.md che ne definisce l'anima (il comportamento, il modo di rispondere, ecc), delle skill che possono essere aggiunte sia su richiesta che in autonomia tramite prompt, ad esempio non gli devo chiedere di installarsi obsidian, se nella richiesta c'è scritto di usarlo lui carica la skill in autonomia e da quel momento rimane nelle skill. Idem per la memoria, che è persistente, per cui lui in qualche modo evolve con l'utente.

Openclaw è diverso ma non l'ho mai usato per cui mi limito a riportare l'esperienza di altre persone, è più un orchestratore di agenti che un agente self-learning come Hermes.

[mmorselli]

Originariamente inviato da demon77

Quando io parlo con gemini o chi volete mi connetto ad un mega datacenter dove gira il modellone LLM che vive sfruttando le risorse del datacenter ed è una unità unica che immagino affronti milioni di conversazioni in simultanea con altrettanti utenti.. Corretto?

Agente viene da agire, che agisce. Un LLM prende in input del testo e restituisce del testo, dei token in realtà, quindi mattoncini di testo che collega assieme. Non sa fare assolutamente nient'altro, per progetto.

In che modo possiamo sfruttarlo per farlo "agire", dove agire può essere anche una cosa semplice come leggere un file sul disco o navigare il web per cercare un'informazione (un LLM di suo non potrà mai farlo)?

Si chiude il LLM dentro un software tradizionale che oltre a prendere il tuo testo per passarlo al modello, intercetta anche il testo in uscita. Il modello è stato istruito per rispondere a certe domande con un formato particolare, sempre di testo, che il software attorno intercetta e interpreta come istruzioni. Quindi un LLM non è in grado di leggere un file sul tuo HD, ma è in grado di chiedere a questo scafandro esterno "usa lo strumento find per cercare un file con queste regole, leggilo con lo strumento read e restituiscimi il risultato"

Questo scambio tra il modello e lo scafandro (harness) produce un agente, cioè un LLM che fa cose, è può andare in loop finché non decide di aver risolto il problema.

Il fatto che sia basato su un modello grande, piccolo, locale o remoto non cambia nulla.

Poi questi harness hanno varie interpretazioni e vari scopi, ce ne sono di open source come OpenClaw o proprietari come ChatGPT Codex o Claude Code, generici o dedicati alla programmazione, quindi possono essere anche molto diversi tra di loro, ma sempre agenti sono nel momento che oltre a produrre testo fanno altro.

I primi agenti avevano solo i tools a disposizione, oggi hanno strumenti sofisticati come MCP per controllare le applicazioni desktop, fanno screenshot, possono installare skill...

[demon77]

Originariamente inviato da bonzoxxx

Provo a spiegartelo io dato che ormai sto sperimentando da tempo llm locale + agente, in questo caso Hermes.

L'LLM, il modello, sia che giri in locale o cloud, altri non è che un modello linguistico più o meno grande al quale puoi fare domande e lui ti risponde in base a quello che conosce. Nel tempo i "chatbot" sono evoluti sia come capacità di inferenza che per l'aggiunta di strumenti che ne hanno ampliato le capacità.

Un agente invece è diverso perchè prende l'input che gli dai e in autonomia si muove per portare a termine quello che gli hai chiesto. Ad esempio, ad un agente evoluto potresti ipoteticamente chiedere di crearti un'app android che faccia una cosa in particolare e lui si muove in autonomia per fare la bozza, crearla e testarla.

Nel mio caso putroppo devo appoggiarmi ad un modello locale piccolo, massimo 9B, perchè la 3080 ha 10GB di VRAM e per quanto molto veloce sempre 9B sono: da ciò ne deriva una capacità di ragionamento limitata, compensata in parte dalla capacità dell'agente di accedere ai siti web in autonomia e restituire delle informazioni aggiornate.

Hermes nel caso specifico ha un file soul.md che ne definisce l'anima (il comportamento, il modo di rispondere, ecc), delle skill che possono essere aggiunte sia su richiesta che in autonomia tramite prompt, ad esempio non gli devo chiedere di installarsi obsidian, se nella richiesta c'è scritto di usarlo lui carica la skill in autonomia e da quel momento rimane nelle skill. Idem per la memoria, che è persistente, per cui lui in qualche modo evolve con l'utente.

Openclaw è diverso ma non l'ho mai usato per cui mi limito a riportare l'esperienza di altre persone, è più un orchestratore di agenti che un agente self-learning come Hermes.

Originariamente inviato da mmorselli

Agente viene da agire, che agisce. Un LLM prende in input del testo e restituisce del testo, dei token in realtà, quindi mattoncini di testo che collega assieme. Non sa fare assolutamente nient'altro, per progetto.

In che modo possiamo sfruttarlo per farlo "agire", dove agire può essere anche una cosa semplice come leggere un file sul disco o navigare il web per cercare un'informazione (un LLM di suo non potrà mai farlo)?

Si chiude il LLM dentro un software tradizionale che oltre a prendere il tuo testo per passarlo al modello, intercetta anche il testo in uscita. Il modello è stato istruito per rispondere a certe domande con un formato particolare, sempre di testo, che il software attorno intercetta e interpreta come istruzioni. Quindi un LLM non è in grado di leggere un file sul tuo HD, ma è in grado di chiedere a questo scafandro esterno "usa lo strumento find per cercare un file con queste regole, leggilo con lo strumento read e restituiscimi il risultato"

Questo scambio tra il modello e lo scafandro (harness) produce un agente, cioè un LLM che fa cose, è può andare in loop finché non decide di aver risolto il problema.

Il fatto che sia basato su un modello grande, piccolo, locale o remoto non cambia nulla.

Poi questi harness hanno varie interpretazioni e vari scopi, ce ne sono di open source come OpenClaw o proprietari come ChatGPT Codex o Claude Code, generici o dedicati alla programmazione, quindi possono essere anche molto diversi tra di loro, ma sempre agenti sono nel momento che oltre a produrre testo fanno altro.

I primi agenti avevano solo i tools a disposizione, oggi hanno strumenti sofisticati come MCP per controllare le applicazioni desktop, fanno screenshot, possono installare skill...

oooookei. Diciamo che il quadro è un po' più chiaro.
Quindi se ho ben capito un AGENTE è assimilabile a livello concettuale ad una virtual machine che a livello hardware fa uso delle risorse a disposizione ma a livello software si comporta come una uinità isolata autonoma che interagisce con altre unità come lei e può usare software e dare comandi. Giusto?

Ammetto che mi piacerebbe smanettare un po' con ste cose.. sono un po' intrigato.. anche se poi nel pratico non ci farei gran che..
Ne riparliamo quando si toverà un minimo di hardware decente a parezzi ragionevoli per fare ste cose..

[mmorselli]

Originariamente inviato da demon77

Quindi se ho ben capito un AGENTE è assimilabile a livello concettuale ad una virtual machine che a livello hardware fa uso delle risorse a disposizione ma a livello software si comporta come una uinità isolata autonoma che interagisce con altre unità come lei e può usare software e dare comandi. Giusto?

Mah, mi sembra un modo per complicare il concetto, anche perché le implementazioni possono essere di tanti tipi. L'agente potrebbe girare sul tuo computer e avere accesso alle risorse del tuo computer, oppure potrebbe avere un suo ambiente isolato, oppure potrebbe essere tutto remoto, non potrebbe fare operazioni sul tuo HD ovviamente, ma potrebbe navigare il web, scaricare un git, fare analisi sul codice scaricato, ecc... comunque sarebbe un agente.

Il livello concettuale più semplice è: un LLM può produrre solo testo, un software intercetta quel testo e lo traduce in azioni. Fine.

[bonzoxxx]

Originariamente inviato da demon77

oooookei. Diciamo che il quadro è un po' più chiaro.
Quindi se ho ben capito un AGENTE è assimilabile a livello concettuale ad una virtual machine che a livello hardware fa uso delle risorse a disposizione ma a livello software si comporta come una uinità isolata autonoma che interagisce con altre unità come lei e può usare software e dare comandi. Giusto?

Ammetto che mi piacerebbe smanettare un po' con ste cose.. sono un po' intrigato.. anche se poi nel pratico non ci farei gran che..
Ne riparliamo quando si toverà un minimo di hardware decente a parezzi ragionevoli per fare ste cose..

L'agente lo puoi installare sulla stessa macchina che fa girare l'llm, ma anche su una macchina dedicata (cosa consigliabile), può girare in docker, può girare su un VPS, il tutto è molto flessibile.

Utilizzi ce ne sono e tanti, se cominci a smanettare ne trovi. Il problema è avere l'hardware su cui farlo girare, se si vuole fare tutto locale, altrimenti basta connettere l'agent di turno a uno qualsiasi dei provider cloud in abbonamento: basta tenere sotto controllo i token perchè un agente può consumarne davvero tanti.

[mmorselli]

Originariamente inviato da bonzoxxx

basta connettere l'agent di turno a uno qualsiasi dei provider cloud in abbonamento: basta tenere sotto controllo i token perchè un agente può consumarne davvero tanti.

Io risolvo collegando Codex, supportato nativamente anche da OpenClaw, in questo modo consumi il piano e non le API conteggiate a token, dove la differenza può essere davvero notevole con un agente, anche con modelli più economici rispetto a OpenAI e Anthropic.

Se il consumo dei piani fossero conteggiati a token col prezzo delle API ci sarebbero conti da migliaia di euro al mese.

[demon77]

Originariamente inviato da bonzoxxx

L'agente lo puoi installare sulla stessa macchina che fa girare l'llm, ma anche su una macchina dedicata (cosa consigliabile), può girare in docker, può girare su un VPS, il tutto è molto flessibile.

Utilizzi ce ne sono e tanti, se cominci a smanettare ne trovi. Il problema è avere l'hardware su cui farlo girare, se si vuole fare tutto locale, altrimenti basta connettere l'agent di turno a uno qualsiasi dei provider cloud in abbonamento: basta tenere sotto controllo i token perchè un agente può consumarne davvero tanti.

Originariamente inviato da mmorselli

Io risolvo collegando Codex, supportato nativamente anche da OpenClaw, in questo modo consumi il piano e non le API conteggiate a token, dove la differenza può essere davvero notevole con un agente, anche con modelli più economici rispetto a OpenAI e Anthropic.

Se il consumo dei piani fossero conteggiati a token col prezzo delle API ci sarebbero conti da migliaia di euro al mese.

Si ok.. ma come fai a fare cento agenti che lavorano ognuno per i fatti propri, si scambiano info, fanno la spia su quelli che barano?
Vuol dire che ogni agente contiene un modello IA indipendente che lavora in modo autonomo.. o no?

[mmorselli]

Originariamente inviato da demon77

Si ok.. ma come fai a fare cento agenti che lavorano ognuno per i fatti propri, si scambiano info, fanno la spia su quelli che barano?
Vuol dire che ogni agente contiene un modello IA indipendente che lavora in modo autonomo.. o no?

Questo non è un problema, apri due finestre di ChatGPT e lancia due prompt in contemporanea, starai eseguendo due istanze di un LLM in parallelo, qui potrebbero esserci due istanze di un software, ognuno che legge la risposta di quegli LLM ed agisce di conseguenza.

In genere quando ho un sistema di 100 agenti c'è uno strato software superiore chiamato orchestratore che li organizza, ma è come funzionano normalmente i programmi per computer, hai un processo principale e dei sottoprocessi in parallelo orchestrati da quello principale. Pensa per esempio ad un Word Processor, mentre tu scrivi c'è un processo che interpreta le tue battiture, un altro che controlla l'ortografia, un altro che si preoccupa di salvare ogni 5 minuti, ecc...

Negli agenti di coding moderni i sub-agenti sono una cosa normale e si usano quando il progetto diventa un po' grande, l'agente principale lancia dei subagenti istruendoli a determinati compiti, es. "leggi la documentazione di questa libreria e portarmi tutte le informazioni riguardo a questa funzione", in questo modo il processo principale non si distrae a fare cose secondarie.

[bonzoxxx]

Originariamente inviato da demon77

Si ok.. ma come fai a fare cento agenti che lavorano ognuno per i fatti propri, si scambiano info, fanno la spia su quelli che barano?
Vuol dire che ogni agente contiene un modello IA indipendente che lavora in modo autonomo.. o no?

Magari si basano sullo stesso modello che elabora le richieste dei 100 agenti, considera che per far girare quel numero di agenti serve necessariamente una infrastruttura adeguata.

[supertigrotto]

Serpico! (Frank)

[lollo9]

alla fin della fiera un agente è solo un LLM in cascata.
Ogni istanza tipicamente si porta dietro skill, contesto, tools, MCP ecc. con cui riesce ad interagire col mondo esterno al proprio contesto, tipo andare in autonomia a leggersi una documentazione di qualcosa e tenersela in memoria nel proprio contesto.
Tipicamente questa istanza “madre” è quella che lancia e controlla gli agenti ed è quella con la visione d’insieme che studia il da farsi su grande scala. Individuato cosa fare, lancia delle sotto-istanze di LLM, gli passa dal proprio contesto quel che serve loro sapere e li lascia lavorare. Il grado di autonomia degli agenti è giusto configuazione, può essere autonomia totale fino a che non completano come può essere che inoltrino una richiesta di input supplementare all’istanzna madre e quindi all’utente per ogni cosa. Diciamo che tipicamente il task quando viene dato ad un agente è già stato studiato a sufficienza per poter procedere con maggiore, se non totale, autonomia.
Tutto quello che fa un agente lo può fare l’istanza madre.
Tuttavia l’agente intanto si porta il suo contesto, quindi le sue operazioni e ragionamenti interni non vanno a sporcare il contesto genitore. Poi un ti da parallelismo, più agenti possono lavorare in parallelo. Poi ti dà granularità sui modelli: tipicamente usi un modello più evoluto sul LLM genitore per esaminare i task approfonditamente da un unico punto di vista, e quando la situazione è chiara, passi giusto il da farsi ad agenti equipaggiati da LLM più “stupidì” e meno cari.


Discorso leggermente diverso quando si usano gli swarm di agenti per fare investigazioni, ricerca ecc. come nell’articolo. Il genitore solitamente imbastisce un network di comunicazione interna, spiega a tutti il medesimo task e lancia N agenti in parallelo, ogni progresso viene condiviso e quindi gli agenti tendono a restare coesi tra loro. A volte qualcuno prende però strade talmente divergenti ma comunque promettenti, quindi magari il fronte agenti si spezza in più filoni.
Questo è un meccanismo emergente, non è roba cablata negli LLM, ed è il fronte principale di ricerca attuale. Affascinante come mimi quasi perfettamente il metodo scientifico attuale di comunicazione e consenso.


Topologia delle relazioni a parte comunque demon, alla fin fine un agente è solo una istanza di un LLM, tendenzialmente lanciato da un altro LLM, che sa solo il minimo indispensabile per portare a termine il suo piccolo task, ignorando una visione di insieme se ci fosse. Ha contesto indipendente e può girare anche su modelli differenti dal genitore.
È una definizione molto pane e salame eh, non c’è chissà quale rigidità sull’argomento, checche se ne dica

[danylo]

Originariamente inviato da demon77

Ammetto che mi piacerebbe smanettare un po' con ste cose.. sono un po' intrigato..

Occhio che provare un Agent AI non e' privo di rischi.

A ChatGPT gli chiedi una cosa e ti risponde. E finisce li.

L'Agent invece agisce autonomamente cercando di fare cio' che gli hai chiesto. Ma capita che non capisca bene la richiesta e faccia danni (tipo formattare il disco) o che, per raggiungere il risultato, faccia altri danni, al tuo PC o a servizi web esterni. E' successo anche ai ricercatori esperti di perdere il controllo di un Agent.

[demon77]

Originariamente inviato da lollo9

alla fin della fiera un agente è solo un LLM in cascata.
Ogni istanza tipicamente si porta dietro skill, contesto, tools, MCP ecc. con cui riesce ad interagire col mondo esterno al proprio contesto, tipo andare in autonomia a leggersi una documentazione di qualcosa e tenersela in memoria nel proprio contesto.
Tipicamente questa istanza “madre” è quella che lancia e controlla gli agenti ed è quella con la visione d’insieme che studia il da farsi su grande scala. Individuato cosa fare, lancia delle sotto-istanze di LLM, gli passa dal proprio contesto quel che serve loro sapere e li lascia lavorare. Il grado di autonomia degli agenti è giusto configuazione, può essere autonomia totale fino a che non completano come può essere che inoltrino una richiesta di input supplementare all’istanzna madre e quindi all’utente per ogni cosa. Diciamo che tipicamente il task quando viene dato ad un agente è già stato studiato a sufficienza per poter procedere con maggiore, se non totale, autonomia.
Tutto quello che fa un agente lo può fare l’istanza madre.
Tuttavia l’agente intanto si porta il suo contesto, quindi le sue operazioni e ragionamenti interni non vanno a sporcare il contesto genitore. Poi un ti da parallelismo, più agenti possono lavorare in parallelo. Poi ti dà granularità sui modelli: tipicamente usi un modello più evoluto sul LLM genitore per esaminare i task approfonditamente da un unico punto di vista, e quando la situazione è chiara, passi giusto il da farsi ad agenti equipaggiati da LLM più “stupidì” e meno cari.


Discorso leggermente diverso quando si usano gli swarm di agenti per fare investigazioni, ricerca ecc. come nell’articolo. Il genitore solitamente imbastisce un network di comunicazione interna, spiega a tutti il medesimo task e lancia N agenti in parallelo, ogni progresso viene condiviso e quindi gli agenti tendono a restare coesi tra loro. A volte qualcuno prende però strade talmente divergenti ma comunque promettenti, quindi magari il fronte agenti si spezza in più filoni.
Questo è un meccanismo emergente, non è roba cablata negli LLM, ed è il fronte principale di ricerca attuale. Affascinante come mimi quasi perfettamente il metodo scientifico attuale di comunicazione e consenso.


Topologia delle relazioni a parte comunque demon, alla fin fine un agente è solo una istanza di un LLM, tendenzialmente lanciato da un altro LLM, che sa solo il minimo indispensabile per portare a termine il suo piccolo task, ignorando una visione di insieme se ci fosse. Ha contesto indipendente e può girare anche su modelli differenti dal genitore.
È una definizione molto pane e salame eh, non c’è chissà quale rigidità sull’argomento, checche se ne dica

E' un po' sta cosa della varie "sessioni" di LLM che mi suona strana..
Cioè.. se il concetto di "varie sessioni di word" è fin troppo banale quello di "varie sessioni di LLM" mi suona strano perchè dovrebbero confluire tutte in un unico "cervello" che quindi e all'istante consapevole delle info di tutte le sessioni aperte.
Cioè immagino gli agenti come dei Borg con coscienza collettiva (quelli di star trek)

[demon77]

Originariamente inviato da danylo

Occhio che provare un Agent AI non e' privo di rischi.

A ChatGPT gli chiedi una cosa e ti risponde. E finisce li.

L'Agent invece agisce autonomamente cercando di fare cio' che gli hai chiesto. Ma capita che non capisca bene la richiesta e faccia danni (tipo formattare il disco) o che, per raggiungere il risultato, faccia altri danni, al tuo PC o a servizi web esterni. E' successo anche ai ricercatori esperti di perdere il controllo di un Agent.

Si si, ne sono pienamente consapevole.
L'agente è in sostanza la IA che invece di parlare ha in mano uno strumento con cui FARE.

[lollo9]

Originariamente inviato da demon77

E' un po' sta cosa della varie "sessioni" di LLM che mi suona strana..
Cioè.. se il concetto di "varie sessioni di word" è fin troppo banale quello di "varie sessioni di LLM" mi suona strano perchè dovrebbero confluire tutte in un unico "cervello" che quindi e all'istante consapevole delle info di tutte le sessioni aperte.
Cioè immagino gli agenti come dei Borg con coscienza collettiva (quelli di star trek)

capisco ma è proprio ciò che invece non accade

ogni istanza fa storia a sé, conosce solo il suo contesto. dal modello prende i pesi per elaborare il ragionamento eventuale, ma non ha un agente visibilità su cosa avviene in altre istanze. un po come il mio chatgpt non sa quello che avviene nella tua istanza, sebbene condividano lo stesso modello.

non è che se io e te abbiamo entrambi l’enciclopedia britannica sullo scaffale allora siamo in sync mentale
possiamo fare ricerche simili, arrivare a conclusioni simili, quello si. nel modello verticale genitore-figli-nipoti la comunicazione non avviene, nelle topologie swarm invece gli agenti comunicano tra loro e si tengono più o meno allineati, ma il ragionamento in sé ognuno lo fa per conto suo sulla base dell’input al contesto ricevuto, del modello scelto ed in caso delle integrazioni al contesto ricevute via comunicazione diretta tra agenti, se prevista

[demon77]

Originariamente inviato da lollo9

capisco ma è proprio ciò che invece non accade

ogni istanza fa storia a sé, conosce solo il suo contesto. dal modello prende i pesi per elaborare il ragionamento eventuale, ma non ha un agente visibilità su cosa avviene in altre istanze. un po come il mio chatgpt non sa quello che avviene nella tua istanza, sebbene condividano lo stesso modello.

non è che se io e te abbiamo entrambi l’enciclopedia britannica sullo scaffale allora siamo in sync mentale
possiamo fare ricerche simili, arrivare a conclusioni simili, quello si. nel modello verticale genitore-figli-nipoti la comunicazione non avviene, nelle topologie swarm invece gli agenti comunicano tra loro e si tengono più o meno allineati, ma il ragionamento in sé ognuno lo fa per conto suo sulla base dell’input al contesto ricevuto, del modello scelto ed in caso delle integrazioni al contesto ricevute via comunicazione diretta tra agenti, se prevista

OK.
Però la IA migliora se stessa incamerando le informazioni raccolte mentre viene usata giusto?
Quindi alla fine da questi agenti dovrà portare a casa un "riassunto" di cosa è andato bene no?

[lollo9]

Originariamente inviato da demon77

OK.
Però la IA migliora se stessa incamerando le informazioni raccolte mentre viene usata giusto?
Quindi alla fine da questi agenti dovrà portare a casa un "riassunto" di cosa è andato bene no?

il riassunto è infatti proprio quello che l’istanza principale si aspetta. l’istanza principale mette insieme tutti i riassunti per i varia sotto-task, si fa il quadro generale della situazione “apprendendo” dagli agenti e fornisce la risposta definitiva a chi o cosa aveva iniziato la catena, sia esso un utente od una altra IA ancora più a monte, poco importa.
Che cosa fare se i task non sono stati completati è di nuovo config. magari l’istanza base chiede ulteriori input all’utente, o magari rilancia altri sub agenti con un contesto leggermente modificato alla luce delle ultime “scoperte” dagli altri agenti che invece avevano completato con successo qualcosa, per vedere se ne esce in qualche modo. dipende da come uno configura il tutto

però occhio che l’apprendimento è effimero, esiste fintanto che esiste il contesto. ok c’è la memoria persistente oggi, ma un un’istanza nasce sempre vergine, al più fa leva sulla memoria al volo per aggiustare il tiro su contesti noti e già affrontati da un dato utente, ma sempre nel contesto effimero finisce il tutto

l’apprendimento propriamente detto, vale a dire quello di modificare i pesi, la “conoscenza” cablata dentro un LLM, esiste, ma è fuori dalla portata di un utente singolo quando si usano LLM di frontiera online. in locale si può forzare un apprendimento di rinforzo più spedito, ma comincia ad esser pesantissimo. se una gpu è più o meno buona per l’inferenza, apprendere, cioè aggiustare i pesi lungo l’utilizzo di un modello, è tutt’altro paio di maniche



PS: il rischio degli agenti è che però prima di fare rapporto a chi li ha creati, possono interagire col mondo esterno, e far cambiare lo scenario. tipo, modificare files ad esempio, od inviare una mail. E qui si apre il problema del controllo, se l’istanza principale non sa che nel frattempo qualcosa è cambiato nel mondo esterno, potrebbe cominciare a far fare cose agli agenti che non hanno più senso od interesse. e giù a valanga si entra in un vortice di cose sempre più distaccate dalla realtà. a costo di consumare token , sempre bene fare un piano iniziale con l’istanza principale, investigazioni approfondite con agenti, rapporto sui lavori dettagliato prima di modificare o fare qualunque cosa dí irreversibile, esaminare e ricontrollare, e poi lanciare tutto di nuovo per fargli eseguire il piano stilato in modo “stupido”, che non prendano altre iniziative. ma il rischio rimane comunque, basso ma c’è. hanno sempre tutti gli strumenti per fare bene come per far danno questi cosi

[mmorselli]

Originariamente inviato da demon77

Cioè.. se il concetto di "varie sessioni di word" è fin troppo banale quello di "varie sessioni di LLM" mi suona strano perchè dovrebbero confluire tutte in un unico "cervello" che quindi e all'istante consapevole delle info di tutte le sessioni aperte.

No, è proprio il contrario di un unico cervello. Un LLM è come una complessissima calcolatrice senza memoria, anche se usando un chatbot hai l'impressione di fare una conversazione con un'entità definita in realtà tu parli con un'entità diversa ad ogni risposta. Il trucco per dare continuità è che ad ogni domanda successiva alla tua domanda vengono accodate tutte le domande e risposte precedenti. Ogni volta è come se quel LLM fosse appena nato, è statico come una pietra e incapace di apprendere nuove nozioni o modificarsi in alcun modo. Un modello LLM potrebbe essere impresso in hardware nei circuiti di un chip se fosse abbastanza grande (so che per piccoli modelli questa cosa viene fatta e ovviamente l'inferenza è velocissima)

OpenAI che deve gestire milioni di richieste al secondo sicuramente ottimizza le risorse al punto che tra una domanda e la successiva potresti non stare parlando nemmeno con lo stesso datacenter, certamente non con la stessa istanza del modello, che tanto sarebbe inutile dato che non avrebbe memoria di ciò che è successo prima. E' l'harness a simulare questa memoria, salvandosi le conversazioni da qualche parte e riproponendole di continuo.