Anthropic, Kaplan avverte: entro il 2030 una scelta cruciale sul futuro dell'AI

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/an...ai_147572.html

Jared Kaplan, chief scientist di Anthropic, avverte che entro il 2030 l'umanità potrebbe dover decidere se lasciare all'AI il controllo del proprio addestramento. Una scelta ad altissimo rischio, tra promesse di progresso e una possibile perdita di controllo, che potrebbe decidere il destino dell'umanità.

Click sul link per visualizzare la notizia.

[LMCH]

O sono dei cazzari o hanno perso il contatto con la realtà.
Buona parte di quella che spacciano per maggior produttività è fuffa una volta che si analizzano i dati oggettivi ed i costi.
Non esiste nessuna scelta cruciale da fare, tutto quello che è automatizzabile viene automatizzato senza se e senza ma.
Il vero problema che hanno tutti gli attuali big della bolla degli LLM è che si sono infilati in un vicolo cieco, lo scaling non porta più miglioramenti significativi e spendono sempre più risorse in cosmetici per abbellire il maiale.

[Doraneko]

Se succederà qualche grosso casino con l'IA mi aspetto che se ne esca dalla Cina, tipo un'IA dal comportamento virulento che mette in ginocchio 3/4 di internet e loro che negano tutto e cercano di incolpare qualcun altro, tipo col COVID.

[barzokk]

Originariamente inviato da LMCH

O sono dei cazzari o hanno perso il contatto con la realtà.
Buona parte di quella che spacciano per maggior produttività è fuffa una volta che si analizzano i dati oggettivi ed i costi.
Non esiste nessuna scelta cruciale da fare, tutto quello che è automatizzabile viene automatizzato senza se e senza ma.
Il vero problema che hanno tutti gli attuali big della bolla degli LLM è che si sono infilati in un vicolo cieco, lo scaling non porta più miglioramenti significativi e spendono sempre più risorse in cosmetici per abbellire il maiale.

sia la prima che la seconda
la risposta più appropriata a questa gente è "ma vai a cag@re"

[Luke2011]

Originariamente inviato da LMCH

Il vero problema che hanno tutti gli attuali big della bolla degli LLM è che si sono infilati in un vicolo cieco

L'era degli LLM si è conclusa col lancio di Gemini 3, il primo modello massivamente multimodale con una backbone neurale unificata per astrazioni verbali, visive e acustiche e capacità di apprendimento cross-domain. All'orizzonte poi ci sono architetture ancora più promettenti in termini di spazio di rappresentazione, capacità di pianificazione e apprendimento delle dinamiche causali come la Joint-Embedding Predictive Architecture di Yann LeCun (basata non sulla retropropagazione ma sulla misurazione regolarizzata dei bassi livelli energetici) e il IFM, Intelligence Foundation Model, una rete neurale a grafo (la struttura del connettoma umano è un grafo) con feedback ricorrente e un modello matematico di neurone molto più vicino alla sua controparte biologica.

[AtaruGolan]

Vedo diversi commenti, e vorrei farne uno in sintesi perchè si continua ad cadere sul Bias umano di autodifesa

Il nodo centrale per me è questo:
Che quando si dice "lavori d'ufficio" la gente immagina il middle manager con Excel, ma la realtà è molto più vasta e molto più fragile.
Il lavoro d'ufficio è la spina dorsale invisibile degli Stati moderni. Call center, back office bancari, assicurazioni, contabilità, supporto clienti, amministrazione pubblica, data entry, customer care, HR di primo livello, helpdesk IT, segreterie, traduzioni, revisione documentale ed è tutto quello che richiede oltre che studi anche esperienza. Milioni di persone o anche centinaia di milioni. Non sono di solitolavori ad alta rendita, ma ad alta numerosità. Quando perdi lavori ad alta numerosità, non perdi solo salari: perdi stabilità sociale, questo è un punto importante che la gente non capisce, si dice sempre e lo letto più volte (lavori per stupidi) ma pensare cosi è veramene un modo non solo ingenuo, ma dannosso e critico.
Una disoccupazione di massa cosi alta è molto più destabilizzante di quella avvenuta con l'evoluzione industriale. L'operaio licenziato è una storia che l'Europa conosce molto bene, ha avuto il suo impatto ma limitato, il crollo estremo simultaneo di impiegati, operatori e amministrativi no. I sistemi di welfare europei sono costruiti per shock settoriali, non per shock trasversali e simultanei. Qui non si chiude una o qualche fabbrica, si spegne un'intera categoria funzionale della società.

Il secondo punto spesso ignorato per un motivo psicologico:
La gente ragiona ancora come se il lavoro fosse un mercato lento. Ma se milioni di persone cercano gli stessi pochi lavori residui, il risultato non è "riconversione", è compressione salariale brutale. Non serve nemmeno l'avidità delle aziende a creare il problema è pura dinamica domanda/offerta. Anche i lavori "non automatizzabili" diventano sottopagati perché saturati troppa offerta e le aziende possono tranquillamente andare al ribasso non al rialzo. Il problema non è solo chi perde il lavoro, ma chi resta e vede il proprio valore crollare, più tasse, stipendi più bassi.

Terzo punto qui tocco una cosa che quasi nessuno vuole dire ad alta voce. Gli Stati moderni vivono di imposte sul lavoro umano. "Meno salari = meno IRPEF, meno contributi, meno IVA indiretta". Allo stesso tempo aumentano le spese. "Sussidi, incentivi, formazione, ammortizzatori".
È una forbice. Se la transizione è rapida (e vedendo la lentezza e la stupidità/ignoranza della politica moderna), non hai tempo di riformare il sistema fiscale. E quando uno Stato prova a tappare con debito o tassazione d'emergenza, la fiducia dei mercati diventa un fattore esistenziale, non teorico. Il fallimento statale non è un film catastrofico ma è una spirale lenta di perdita di capacità, il fallimento arriva anche molto velocemente e sopratutto in un unione di stati, già fragile per un fattore di diversità cosi alto come l'Europa, noi saremo quelli più impattati, più danneggiati.

Il quarto punto è forse il più sottovalutato:
3 anni da oggi non sono 3 anni passati. Già nell'informatica classica questo non è contemplabile. Nell'IA sono due o tre salti di paradigma. Tutte le analisi che dicono "al momento l'impatto è limitato" commettono l'errore classico della linearità. Guardano lo stato attuale e proiettano piano. Ma questa tecnologia cresce a gradini, non in pendenza. Il vero errore cognitivo è pensare che ciò che oggi è "assistente" domani non possa essere "sostituto".
Se contiamo che oggi, anzi già da un anno, il licenziamenti per IA, si presentano già, sia in forma diretta, sia indiretta.
Forma diretta (quindi ufficiale, documentata e confermata) sono un totale, tra circa 48.000 e 80.000, certo un numero molto basso, ma ricordiamoci questo si parla di 4 anni prima dal fattidico problema.
Forma non ufficiale ma ufficiosa dal 2023 ad oggi, nelle Big Tech e settori collegati son state licenziati 900k di dipendenti (quindi solo campo tecnologico), ovviamente per svariati motivi, ma quello che molti non vedono, non sanno perchè essendo compagnie private le informazioni ci sono solo in parte è che molto non è dato dalla sostituzione dell'IA di per se, ma di spostamento del lavoro in paesi con molto meno costo lavorativo, ma compensando l'esperienza e gli studi inadeguati per quel tipo di lavoro grazie all'IA e i dati presi da "estrazione e formalizzazione forzata del know-how umano tramite obbligo operativo e metriche, con l’obiettivo di renderlo replicabile e automatizzabile all’interno dell’organizzazione".

Il quinto punto è un poco cinico, ma realistico:
Le bolle non colpiscono tutti allo stesso modo e questa è una cosa che ripeto la bolla è economica sulla borsa. Le Big Tech non stanno "scommettendo" stanno consolidando. Hanno già bruciato il capitale, hanno infrastrutture, dati, brevetti, potere normativo e capacità di lobbying. Se una parte del mercato implode, loro comprano i pezzi buoni. Se una tecnologia diventa obsoleta, la rivendono come "soluzione legacy". Se serve tagliare, licenziano e automatizzano ulteriormente. La bolla, se scoppia, schiaccia i piccoli e rafforza i grandi. È successo con internet (dove chi ha perso sono le persone che mettavano soldi su realtà fuffa e speculative), con il cloud, con i social. Non c'è motivo per cui qui sia diverso, le Big Tech quelle che hanno oggi in mano il potere dell'IA non saranno impattate, chi sarà impattato saremo noi la gente che dovrà pagare ancora di più trovando svalutato maggiormente lo stipendio, saranno le piccole realtà, quindi ancora più danni ancora più licenziamenti, quindi quando vedo ancora ed ancora pensare che la bolla faccia esplodere la IA come tecnologia è veramente una baggianata, anzi, le Big tech guadagneranno ancora di più, perchè avranno scuse anche se non necessarie per maggiori licenziamenti ed aumenti, speculando su di noi.

E qui torniamo a Kaplan e al "sottotesto" che molti fingono di non vedere:
La scelta cruciale non è tecnica, è sociale. Non è "l'IA funziona o no", ma quanto velocemente permetti che sostituisca il lavoro umano prima di aver riscritto le regole del gioco "fiscalità, reddito, valore sociale, formazione, proprietà del capitale computazionale" qui ci vogliono regole, l'attuale economia, l'attuale gestione, le attuali leggi non sono fatte per poter gestire questa evoluzione, questa va correttamente gestita, già oggi c'è la dimostrazione che l'attuale economia è sbagliata per i nostri tempi e già era cosi dagl'anni 90 con l'avvento di internet e l'evoluzione tecnologica informatica, non è adatta già a questo, figuriamoci all'IA.

Chi liquida tutto come "fuffa" in realtà sta facendo una cosa molto umana, conosciuta come difesa cognitiva. Se accetti le implicazioni, devi accettare che il contratto sociale novecentesco sta scricchiolando. È più comodo dire che il maiale è solo truccato, piuttosto che ammettere che stiamo cambiando specie di economia, ma le leggi e regole restano vecchie causando cosi uno scontro che può fornire solo un risultato "esplosione" ma questo non dell'IA ma dell'essere umano.

[Doraneko]

Originariamente inviato da AtaruGolan

Vedo diversi commenti, e vorrei farne uno in sintesi perchè si continua ad cadere sul Bias umano di autodifesa

Il nodo centrale per me è questo:
Che quando si dice "lavori d'ufficio" la gente immagina il middle manager con Excel, ma la realtà è molto più vasta e molto più fragile.
Il lavoro d'ufficio è la spina dorsale invisibile degli Stati moderni. Call center, back office bancari, assicurazioni, contabilità, supporto clienti, amministrazione pubblica, data entry, customer care, HR di primo livello, helpdesk IT, segreterie, traduzioni, revisione documentale ed è tutto quello che richiede oltre che studi anche esperienza. Milioni di persone o anche centinaia di milioni. Non sono di solitolavori ad alta rendita, ma ad alta numerosità. Quando perdi lavori ad alta numerosità, non perdi solo salari: perdi stabilità sociale, questo è un punto importante che la gente non capisce, si dice sempre e lo letto più volte (lavori per stupidi) ma pensare cosi è veramene un modo non solo ingenuo, ma dannosso e critico.
Una disoccupazione di massa cosi alta è molto più destabilizzante di quella avvenuta con l'evoluzione industriale. L'operaio licenziato è una storia che l'Europa conosce molto bene, ha avuto il suo impatto ma limitato, il crollo estremo simultaneo di impiegati, operatori e amministrativi no. I sistemi di welfare europei sono costruiti per shock settoriali, non per shock trasversali e simultanei. Qui non si chiude una o qualche fabbrica, si spegne un'intera categoria funzionale della società.

Il secondo punto spesso ignorato per un motivo psicologico:
La gente ragiona ancora come se il lavoro fosse un mercato lento. Ma se milioni di persone cercano gli stessi pochi lavori residui, il risultato non è "riconversione", è compressione salariale brutale. Non serve nemmeno l'avidità delle aziende a creare il problema è pura dinamica domanda/offerta. Anche i lavori "non automatizzabili" diventano sottopagati perché saturati troppa offerta e le aziende possono tranquillamente andare al ribasso non al rialzo. Il problema non è solo chi perde il lavoro, ma chi resta e vede il proprio valore crollare, più tasse, stipendi più bassi.

Terzo punto qui tocco una cosa che quasi nessuno vuole dire ad alta voce. Gli Stati moderni vivono di imposte sul lavoro umano. "Meno salari = meno IRPEF, meno contributi, meno IVA indiretta". Allo stesso tempo aumentano le spese. "Sussidi, incentivi, formazione, ammortizzatori".
È una forbice. Se la transizione è rapida (e vedendo la lentezza e la stupidità/ignoranza della politica moderna), non hai tempo di riformare il sistema fiscale. E quando uno Stato prova a tappare con debito o tassazione d'emergenza, la fiducia dei mercati diventa un fattore esistenziale, non teorico. Il fallimento statale non è un film catastrofico ma è una spirale lenta di perdita di capacità, il fallimento arriva anche molto velocemente e sopratutto in un unione di stati, già fragile per un fattore di diversità cosi alto come l'Europa, noi saremo quelli più impattati, più danneggiati.

Il quarto punto è forse il più sottovalutato:
3 anni da oggi non sono 3 anni passati. Già nell'informatica classica questo non è contemplabile. Nell'IA sono due o tre salti di paradigma. Tutte le analisi che dicono "al momento l'impatto è limitato" commettono l'errore classico della linearità. Guardano lo stato attuale e proiettano piano. Ma questa tecnologia cresce a gradini, non in pendenza. Il vero errore cognitivo è pensare che ciò che oggi è "assistente" domani non possa essere "sostituto".
Se contiamo che oggi, anzi già da un anno, il licenziamenti per IA, si presentano già, sia in forma diretta, sia indiretta.
Forma diretta (quindi ufficiale, documentata e confermata) sono un totale, tra circa 48.000 e 80.000, certo un numero molto basso, ma ricordiamoci questo si parla di 4 anni prima dal fattidico problema.
Forma non ufficiale ma ufficiosa dal 2023 ad oggi, nelle Big Tech e settori collegati son state licenziati 900k di dipendenti (quindi solo campo tecnologico), ovviamente per svariati motivi, ma quello che molti non vedono, non sanno perchè essendo compagnie private le informazioni ci sono solo in parte è che molto non è dato dalla sostituzione dell'IA di per se, ma di spostamento del lavoro in paesi con molto meno costo lavorativo, ma compensando l'esperienza e gli studi inadeguati per quel tipo di lavoro grazie all'IA e i dati presi da "estrazione e formalizzazione forzata del know-how umano tramite obbligo operativo e metriche, con l’obiettivo di renderlo replicabile e automatizzabile all’interno dell’organizzazione".

Il quinto punto è un poco cinico, ma realistico:
Le bolle non colpiscono tutti allo stesso modo e questa è una cosa che ripeto la bolla è economica sulla borsa. Le Big Tech non stanno "scommettendo" stanno consolidando. Hanno già bruciato il capitale, hanno infrastrutture, dati, brevetti, potere normativo e capacità di lobbying. Se una parte del mercato implode, loro comprano i pezzi buoni. Se una tecnologia diventa obsoleta, la rivendono come "soluzione legacy". Se serve tagliare, licenziano e automatizzano ulteriormente. La bolla, se scoppia, schiaccia i piccoli e rafforza i grandi. È successo con internet (dove chi ha perso sono le persone che mettavano soldi su realtà fuffa e speculative), con il cloud, con i social. Non c'è motivo per cui qui sia diverso, le Big Tech quelle che hanno oggi in mano il potere dell'IA non saranno impattate, chi sarà impattato saremo noi la gente che dovrà pagare ancora di più trovando svalutato maggiormente lo stipendio, saranno le piccole realtà, quindi ancora più danni ancora più licenziamenti, quindi quando vedo ancora ed ancora pensare che la bolla faccia esplodere la IA come tecnologia è veramente una baggianata, anzi, le Big tech guadagneranno ancora di più, perchè avranno scuse anche se non necessarie per maggiori licenziamenti ed aumenti, speculando su di noi.

E qui torniamo a Kaplan e al "sottotesto" che molti fingono di non vedere:
La scelta cruciale non è tecnica, è sociale. Non è "l'IA funziona o no", ma quanto velocemente permetti che sostituisca il lavoro umano prima di aver riscritto le regole del gioco "fiscalità, reddito, valore sociale, formazione, proprietà del capitale computazionale" qui ci vogliono regole, l'attuale economia, l'attuale gestione, le attuali leggi non sono fatte per poter gestire questa evoluzione, questa va correttamente gestita, già oggi c'è la dimostrazione che l'attuale economia è sbagliata per i nostri tempi e già era cosi dagl'anni 90 con l'avvento di internet e l'evoluzione tecnologica informatica, non è adatta già a questo, figuriamoci all'IA.

Chi liquida tutto come "fuffa" in realtà sta facendo una cosa molto umana, conosciuta come difesa cognitiva. Se accetti le implicazioni, devi accettare che il contratto sociale novecentesco sta scricchiolando. È più comodo dire che il maiale è solo truccato, piuttosto che ammettere che stiamo cambiando specie di economia, ma le leggi e regole restano vecchie causando cosi uno scontro che può fornire solo un risultato "esplosione" ma questo non dell'IA ma dell'essere umano.

Per fortuna che è in sintesi

[AtaruGolan]

Originariamente inviato da Doraneko

Per fortuna che è in sintesi