GPT-6 Astra è davvero AGI o non siamo ancora capaci di misurarla?

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...la_158832.html

Astra, Fable e le sedici ore di METR: quanto stanno crescendo le capacità degli agenti, dove i test smettono di misurarle bene e che cosa significa per il lavoro.

Click sul link per visualizzare la notizia.

[Mo42]

Il problema è che, a furia di sofisticare la metrica, si rischia di confondere l'epistemologia della misurazione con la fenomenologia del fenomeno.
Se il termometro arriva a 50 °C e poi fonde, la conclusione scientificamente interessante non è necessariamente "non sappiamo se fuori faccia caldo".
Ovvero, se il benchmark satura perché i modelli più avanzati riescono ormai a completare quasi tutti i task disponibili, questo è certamente un limite dello strumento di misura. Ma trasformare il limite dello strumento in una specie di sospensione ontologica delle capacità del sistema è metodologicamente curioso. Il fatto che METR non possa stimare bene un orizzonte superiore alle 16 ore non significa che l'orizzonte si fermi a 16 ore: significa precisamente che abbiamo finito la scala graduata.
Una curiosa asimmetria appare quando il benchmark misura un miglioramento e il numero viene trattato con tutta la deferenza statistica del caso. Quando invece il benchmark satura, improvvisamente ricordiamo che i benchmark sono imperfetti. Benissimo. Ma allora applichiamo lo stesso rigore epistemico in entrambe le direzioni.
Ancora più interessante è il trattamento dell'AGI. L'argomento "non abbiamo una definizione condivisa, quindi non possiamo dire se Astra sia AGI" è formalmente inattaccabile... e praticamente quasi inutile. Anche "intelligenza", "comprensione", "autonomia" e persino "lavoro" sono concetti operativamente sfumati. Non per questo smettiamo di studiarli.
Se poi la definizione di AGI diventa talmente elastica da richiedere contemporaneamente una tassonomia filosofica, un benchmark psicometrico, un'analisi economica, una misura di affidabilità, una verifica dell'autonomia e possibilmente una commissione ONU , forse il problema non è più il modello. È la definizione.
La parte più divertente è l'ossessione per distinguere ciò che è "dimostrato" da ciò che è "dedotto", salvo poi dedurre tranquillamente che Astra probabilmente supererà le 16 ore. Quindi abbiamo: benchmark saturato, dati nuovi non ancora disponibili, capacità dichiarate dal produttore, estrapolazioni prudenti e un bel "non possiamo ancora dirlo". È una posizione perfettamente sicura: qualunque cosa succeda, non può essere falsificata.
Il punto serio, che secondo me l'articolo sfiora ma non coglie fino in fondo, è un altro: l'AGI potrebbe non necessariamente essere una soglia metafisica che si accende come un bit, ma una transizione continua nella capacità di delegare lavoro cognitivo complesso con affidabilità crescente (e magari costo decrescente).
In ogni caso, per queste e altre utopie, ci vediamo sul prossimo numero di Topolino.

[Notturnia]

Bello articolo, ma era ovvio :-D

Detto questo.. noi vediamo/usiamo e versioni che escono per noi.. ma Astra-6 e Fable 5.1 sono i due sistemi che uso per lavorare (e fare cazzate a tempo perso)..

Se penso a queste due versioni commerciali (ho anche la pro x20 di entrambi) e al concetto che sognavo di AGI mi cascano.. fanno errori madornali ogni tanto.. devo richiamarli, bisticciano fra loro dandosi la colpa a vicenda di quello che fanno e ammettono di aver sbagliato ma che non impareranno dai loro errori. Fanno ragionamenti a volte assurdi.. no.. non riesco a pensare, alle versioni commerciali, come a qualcosa che realmente possa sostituirci..

Ci siamo vicini ? Boh.. è filosofia più che informatica.. sono sicuramente migliori delle loro versioni precedenti ma come win7 era migliore di win95.. sono un’evoluzione.. ma noi siamo più complessi e capaci e impariamo dai nostri errori in un modo diverso..

Sono sicuramente più capaci di portare a termine un lavoro e fra i due devo ammettere che fable 5.1 cowork fa paura ma non tanto per i super poteri da AGI ma per la capacità di sfuggire di mano e fare cose che non hai chiesto nel tentativo di risolvere il problema che gli è stato affidato.. astra-ultra non è altrettanto aggressiva nel cercare le soluzioni..

Posso lasciare lavorare di notte astra-ultra sapendo che non sarà uscita dai paletti che le ho dato ma non posso lasciare fable-cowork lavorare da solo di notte.. mi pare di avere Jarvis e Ultron a volte (in versione giocattolo..) che lavorano.. Ultron (fable) programma e Jarvis (Astra) controlla e blocca eventuali tentativi che escono dai miei parametri.. è uno spettacolo vederli lavorare in quel modo e devo dire che bruciano token come non ci fosse un domani (argh..) ma sono efficienti.. ma AGI ?..

Forse dipende da cosa si intende per AGI ma per me ci siamo lontani.. anche se io ho solo a disposizione i modelli che loro commercializzano e non i modelli che loro hanno a disposizione..

[virtualdj]

Originariamente inviato da Notturnia

Bello articolo, ma era ovvio :-D

Concordo!

Originariamente inviato da Redazione di Hardware Upgrade

In un esperimento di Redwood Research riportato da METR, Opus 4.7 disponeva di un computer connesso a Internet e di 5.000 dollari per guadagnarne altri.

Esperimento decisamente interessante, se i modelli riuscissero a portarlo a termine (e da vedere in che modo...)!

Originariamente inviato da Notturnia

fanno errori madornali ogni tanto.. devo richiamarli, bisticciano fra loro dandosi la colpa a vicenda di quello che fanno e ammettono di aver sbagliato ma che non impareranno dai loro errori.

Proprio come molti colleghi!

Originariamente inviato da Notturnia

Ultron (fable) programma e Jarvis (Astra) controlla e blocca eventuali tentativi che escono dai miei parametri..

Praticamente tocca per forza tenerli d'occhio (o personalmente o con un altro modello diverso come fai tu)? Come degli stagisti in versione sotto steroidi

[omerook]

Originariamente inviato da virtualdj

Praticamente tocca per forza tenerli d'occhio (o personalmente o con un altro modello diverso come fai tu)? Come degli stagisti in versione sotto steroidi

ho paura che a breve non avremo più le competenze necessarie e all' altezza delle IA per capire se queste hanno agito bene o male e per poter cassare o approvare il loro operato.

[Notturnia]

Originariamente inviato da omerook

ho paura che a breve non avremo più le competenze necessarie e all' altezza delle IA per capire se queste hanno agito bene o male e per poter cassare o approvare il loro operato.

beh.. per certe cose si.. per altre non serve competenza.. se vuoi fare una cosa che tu non vuoi lo vedi (formattare un disco ? craccare un sistema ?) il problema è che devi stare li.. e non tutto quello che fanno lo dicono..

Originariamente inviato da virtualdj

Proprio come molti colleghi!


Praticamente tocca per forza tenerli d'occhio (o personalmente o con un altro modello diverso come fai tu)? Come degli stagisti in versione sotto steroidi

beh in questo senso sono AGI allora.. visto che alcune persone sembrano intelligenti come le IA..

e si.. sono come stagisti da controllare solo che non imparano.. è triste ma è così.. uno stagista impara da un errore (a volte) una IA non impara perchè il modello che usiamo non evolve e quindi quell'errore lo rifarà di nuovo in una chat/cowork/work diverso perchè non entra nel dna il problema..
il prossimo modello potrebbe migliorare ma quello che usi tu resta stupido come il primo giorno e sta a te lavorarci dietro per evitare il problema
anche il mio sistema di "dibattito e controllo" non è affidabile al 100% tanto che poi i dati di quelle due IA li rivedo io e li faccio masticare ad una terza IA che ha il solo scopo di trovare contraddizioni nelle review dei lavori della altre due .. e io più questa vediamo se ci sono falle e proponiamo come aggiustarle.. ma ci vuole tempo (il mio) e soldi (i miei) e computer (i miei) per far girare molte IA diverse per avere opinioni diverse .. e a volte dopo settimane di lavoro scopri che il risultato finale non è tanto diverso da quello fatto con i sistemi attuali.. o c'è quell'1% di volte in cui sbaglia che lo rende inutile perchè il sistema attuale fatto fra programmi + umani è migliore e riduce ad uno 0,1% i rischi..

AGI o non AGI il loro problema è che non sono affidabili.. stesso lavoro due volte, due risultati simili..10 volte.. 10 risultati simili.. etc.. UGUALE per la IA non è la stessa cosa che per noi in certi campi.. almeno, per il mio lavoro ad oggi va così... io aspetto lo step successivo ad astra e fable.. forse li saranno più coerenti o magari i modelli anche usati in locale potranno imparare dai loro errori, quello sarebbe un punto di svolta importante secondo me

[LMCH]

Originariamente inviato da omerook

ho paura che a breve non avremo più le competenze necessarie e all' altezza delle IA per capire se queste hanno agito bene o male e per poter cassare o approvare il loro operato.

Non é una novità.

Già ora siamo pieni di dirigenti di azienda e politici che hanno raggiunto potere decisionale su cose di cui sono fottutamente incompetenti.

Quando non possono piü appoggiarsi su persone competenti le loro aziende col tempo diventano gusci vuoti oppure falliscono, mentre gli stati diventano repubbliche delle banane oppure di fatto colonie.

Con i LLM la cosa diventerà molto più frequente e causerà molti piü danni economici.


Per quel che riguarda AGI ecc. ecc bisogna ricordare che le metriche ed i benchmark utilizzati fino ad ora ... servono solo per far dire all'oste quanto é buono il suo vino.

Un autentica AGI non la puoi misurare, la puoi solo riconoscere come tua pari (cosa catastrofica per i dirigenti d'azienda che si fanno pugnette al pensiero di sostituire i dipendenti con sistemi automatizzati basati su AI).

[Notturnia]

Originariamente inviato da LMCH

Non é una novità.

Già ora siamo pieni di dirigenti di azienda e politici che hanno raggiunto potere decisionale su cose di cui sono fottutamente incompetenti.

Quando non possono piü appoggiarsi su persone competenti le loro aziende col tempo diventano gusci vuoti oppure falliscono, mentre gli stati diventano repubbliche delle banane oppure di fatto colonie.

Con i LLM la cosa diventerà molto più frequente e causerà molti piü danni economici.


Per quel che riguarda AGI ecc. ecc bisogna ricordare che le metriche ed i benchmark utilizzati fino ad ora ... servono solo per far dire all'oste quanto é buono il suo vino.

Un autentica AGI non la puoi misurare, la puoi solo riconoscere come tua pari (cosa catastrofica per i dirigenti d'azienda che si fanno pugnette al pensiero di sostituire i dipendenti con sistemi automatizzati basati su AI).

cosa catastrofica per i dipendenti non per i dirigenti..
il capro espiatorio serve.. i dipendenti diventano inutili quando una AGI può sostituirli senza inventare malattie, fare la pigrona sul lavoro etc.. il dirigente, anche se virtualmente sostituito, resta indispensabile, come il titolare che mette i soldi.. ma da lui a scendere sono tutti inutili quando le AGI sono riconosciute pari ai dipendenti..

chi rischia di più sono i lavoratori che usano un computer non i dirigenti

[windowistaxcaso]

Originariamente inviato da Mo42

Il problema è che, a furia di sofisticare la metrica, si rischia di confondere l'epistemologia della misurazione con la fenomenologia del fenomeno.
Se il termometro arriva a 50 °C e poi fonde, la conclusione scientificamente interessante non è necessariamente "non sappiamo se fuori faccia caldo".
Ovvero, se il benchmark satura perché i modelli più avanzati riescono ormai a completare quasi tutti i task disponibili, questo è certamente un limite dello strumento di misura. Ma trasformare il limite dello strumento in una specie di sospensione ontologica delle capacità del sistema è metodologicamente curioso. Il fatto che METR non possa stimare bene un orizzonte superiore alle 16 ore non significa che l'orizzonte si fermi a 16 ore: significa precisamente che abbiamo finito la scala graduata.
Una curiosa asimmetria appare quando il benchmark misura un miglioramento e il numero viene trattato con tutta la deferenza statistica del caso. Quando invece il benchmark satura, improvvisamente ricordiamo che i benchmark sono imperfetti. Benissimo. Ma allora applichiamo lo stesso rigore epistemico in entrambe le direzioni.
Ancora più interessante è il trattamento dell'AGI. L'argomento "non abbiamo una definizione condivisa, quindi non possiamo dire se Astra sia AGI" è formalmente inattaccabile... e praticamente quasi inutile. Anche "intelligenza", "comprensione", "autonomia" e persino "lavoro" sono concetti operativamente sfumati. Non per questo smettiamo di studiarli.
Se poi la definizione di AGI diventa talmente elastica da richiedere contemporaneamente una tassonomia filosofica, un benchmark psicometrico, un'analisi economica, una misura di affidabilità, una verifica dell'autonomia e possibilmente una commissione ONU , forse il problema non è più il modello. È la definizione.
La parte più divertente è l'ossessione per distinguere ciò che è "dimostrato" da ciò che è "dedotto", salvo poi dedurre tranquillamente che Astra probabilmente supererà le 16 ore. Quindi abbiamo: benchmark saturato, dati nuovi non ancora disponibili, capacità dichiarate dal produttore, estrapolazioni prudenti e un bel "non possiamo ancora dirlo". È una posizione perfettamente sicura: qualunque cosa succeda, non può essere falsificata.
Il punto serio, che secondo me l'articolo sfiora ma non coglie fino in fondo, è un altro: l'AGI potrebbe non necessariamente essere una soglia metafisica che si accende come un bit, ma una transizione continua nella capacità di delegare lavoro cognitivo complesso con affidabilità crescente (e magari costo decrescente).
In ogni caso, per queste e altre utopie, ci vediamo sul prossimo numero di Topolino.

Sul termometro siamo d’accordo: nell’articolo scrivo proprio che le sedici ore sono un limite del test e che mi aspetto che Astra le superi. E la transizione che descrivi è proprio quello che mi interessa di più: quanto lavoro possiamo delegare e quanto ci costa ancora seguirlo e correggerlo.
Su questo possiamo discutere anche prima del prossimo Topolino.

[windowistaxcaso]

Originariamente inviato da virtualdj

Concordo!

Grazie a te e Notturnia, sempre presente!

[LMCH]

Originariamente inviato da Notturnia

cosa catastrofica per i dipendenti non per i dirigenti..
il capro espiatorio serve.. i dipendenti diventano inutili quando una AGI può sostituirli senza inventare malattie, fare la pigrona sul lavoro etc.. il dirigente, anche se virtualmente sostituito, resta indispensabile, come il titolare che mette i soldi.. ma da lui a scendere sono tutti inutili quando le AGI sono riconosciute pari ai dipendenti..

chi rischia di più sono i lavoratori che usano un computer non i dirigenti

No, nel caso che emerga una VERA AGI pure tutti i dirigenti sono fottuti, resta solo il proprietario oppure il consiglio di amministrazione.

Il mio punto era che non esiste un benchmark che stabilisca se si ha a che fare con un AGI oppure no o quanto ci si sta avvicinando ad essa.

Riguardo la riduzione dei dipendenti, non vedo reali cali, vedo mansioni che cambiano e dirigenti che giustificano "con le AI" tagli legati ad altre ragioni.

[Notturnia]

Originariamente inviato da LMCH

No, nel caso che emerga una VERA AGI pure tutti i dirigenti sono fottuti, resta solo il proprietario oppure il consiglio di amministrazione.

Il mio punto era che non esiste un benchmark che stabilisca se si ha a che fare con un AGI oppure no o quanto ci si sta avvicinando ad essa.

Riguardo la riduzione dei dipendenti, non vedo reali cali, vedo mansioni che cambiano e dirigenti che giustificano "con le AI" tagli legati ad altre ragioni.

non ci sono motivi ad oggi motivi per tagliare personale a "causa" delle IA.. ma arriveranno.. abbi pazienza.. crescono e la gente non migliora altrettanto velocemente, anzi.. la gente ha sempre meno voglia di meritarsi il lavoro.. fra i dipendenti che peggiorano mediamente e le IA che migliorano mediamente direi che in 1-2 anni il problema sarà reale.. la disaffezione per l'etica del lavoro da un lato e la capacità sempre maggiore delle IA arriveranno ad un delta ad un certo punto per cui non avrà senso tenere la gente..

me ne accorgo ad ogni miglioramento delle IA che uso e mi rendo conto che se avessi più token, avessi più tempo e potessi usare più IA, potrei generare più automatismi affidabili e iniziare a rendere economicamente giustificato il passaggio alle IA

oggi è una questione di tempo+soldi .. ma un gpt-7 .. un claude-6 .. magari loro migliorano di un 20% .. e i ragionamenti di oggi cambiano..

si hai ragione.. basterà il titolare.. ma molti titolari vogliono ancora delle persone con cui arrabbiarsi e discutere quando le cose non vanno.. ma gli scansafatiche potrebbero avere gli anni contati

[sbaffo]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/scienz...la_158832.html

I test di METR riguardano soprattutto software, apprendimento automatico e sicurezza informatica, con obiettivi definiti e verifiche automatiche. In una trattativa o nella gestione di una classe di adolescenti è molto meno semplice stabilire se il risultato sia buono, e viene meno una parte dei riscontri che aiutano l'agente a correggersi.

GLI INCARICHI MENO STRUTTURATI

Sugli otto compiti meno strutturati del rapporto di maggio, i sistemi ottenevano sette fallimenti chiari e un successo al limite.

Ho letto di sfuggita la prima parte dell'articolo, mi sono concentrato sulla seconda: se si parla di AGI, con G che sta per GENERAL, i test devono essere general purpose, non solo quelli semi-deterministici facili da autocorreggere finchè non viene il risultato voluto.
E' come fare un compito in classe sapendo già il risultato, gli studenti ci provano finchè non esce quello giusto, certo vanno fatti i passaggi per arrivarci, ma è molto più facile.

Dopo parla del controllo:

Se invece il tempo risparmiato nella produzione viene assorbito dalla correzione, il vantaggio può ridursi o scomparire.

E' questo il punto di una vera aGi, l'affidabilità. Avevo letto non ricordo dove che il tasso di successo/errore nelle richieste all'ai (mi pare risposte a domande generiche, non task di agenti) è in miglioramento ma la curva si sta appiattendo, un po come un curva logaritmica. Ma se non supera la soglia richiesta non sarà mai davvero "autonoma".

Originariamente inviato da virtualdj

Praticamente tocca per forza tenerli d'occhio (o personalmente o con un altro modello diverso come fai tu)? Come degli stagisti in versione sotto steroidi

Appunto, e c'è un motivo se gli stagisti prendono una miseria o addirirttura lavorano gratis, mentre i senior sono ben pagati...
Se come dice Notturnia non imparano resteranno sempre stagisti, non diventeranno mai junior nè tantomeno senior.