L'IA scriverà codice migliore del suo stesso creatore, e lui lo sa già: l'analisi dell'ingegnere

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/l-...re_159166.html

Un ingegnere di DeepSeek, autore del motore Attention di V4.1, ha ammesso in un lungo post che l'intelligenza artificiale sta già scrivendo codice CUDA a livello professionale, mettendo in dubbio il proprio ruolo e il futuro della ricerca sull'IA

Click sul link per visualizzare la notizia.

[mozzarello]

Finiremo per diventare animali inutili, e diventerà un problema sociale enorme. I pesciolini rossi delle IA.

[supertigrotto]

La seconda che ha detto,la IA sarà in mano di pochi, è l'istinto umano,se hai un vantaggio,te lo tieni stretto e non lo condividi perché vuoi avere il potere assoluto.
Basta vedere il mondo dell' informatica tradizionale,oramai hardware,software e rete erano e sono,in mano di pochi,la pseudo libertà è solo fumo negli occhi e non c'è nessun spazio per un nuovo competitor,se dovesse nascere,lo acquisiscono e tolgono un rivale dalla circolazione.
Quante start up sono nate e poi assorbite?
Quante nuove Google, Microsoft, Apple, Oracle, IBM e altre aziende sono nate?
Quante sono state aperte di nuove e assorbite in tempo record?
Fra l'altro,sono tutte aziende americane,ma sono sicuro che se Arm diventasse più rilevante, l'acquisizione da parte americana è già scontata,ci erano quasi riusciti con Nvidia.
I ricercatori che ci lavorano dentro cominciano a capire che si prospetteranno diversi grossi problemi.

[mozzarello]

Ma nVidia non è americana?

[mmorselli]

Non capisco il tempo al futuro, l'AI già da tempo scrive codice migliore di qualsiasi umano, non bisogna però confondere la codifica con la programmazione, sarebbe come confondere la composizione musicale con la sua trascrizione in uno spartito.

L'AI scrive codice più preciso e pulito di questo ingegnere, ma le idee che vengono messe in pratica con quel codice sono quelle dell'ingegnere, perché per ora l'AI di grandi impulsi creativi non ne ha, al massimo può aiutare a fare un po' di brainstorming quando si cercano nuove idee.

[demon77]

Fino ad ora sta accadendo punto su punto tutto quanto è stato predetto al day 1

[mozzarello]

Originariamente inviato da mmorselli

Non capisco il tempo al futuro, l'AI già da tempo scrive codice migliore di qualsiasi umano, non bisogna però confondere la codifica con la programmazione, sarebbe come confondere la composizione musicale con la sua trascrizione in uno spartito.

L'AI scrive codice più preciso e pulito di questo ingegnere, ma le idee che vengono messe in pratica con quel codice sono quelle dell'ingegnere, perché per ora l'AI di grandi impulsi creativi non ne ha, al massimo può aiutare a fare un po' di brainstorming quando si cercano nuove idee.

Quello che lo preoccupa non è tanto un discorso di qualità del codice, ma del fatto (che è poi quello che dico io da un po') che il lavoro cambierà completamente.

Tralasciando che gran parte della forza lavoro "cognitiva" (al PC, ma non solo) diventerà inutile e questo è un problema, ma ipotizzando l'IA resti stupida e richieda supervisione di un esperto (cosa che per me non sarà più necessaria nel giro di pochissimi anni) questo esperto non potrà più fare il lavoro per cui ha studiato / è stato assunto, che magari è la sua passione (nello specifico scrivere codice), ma dovrà riadattarsi a fare un lavoro che a te piace, a me ed evidentemente anche a lui meno, che è quello dell'orchestratore di agenti, proprio perché già da un po' l'IA scrive codice migliore, oltre ad essere più veloce, e quindi non ha più senso scrivere codice.

Chi adorava scrivere codice si trovarà a fare un lavoro di merda, con tutto quello che ne consegue.

[mmorselli]

Originariamente inviato da demon77

Fino ad ora sta accadendo punto su punto tutto quanto è stato predetto al day 1

Tipo? Le cavallette?

[mmorselli]

Originariamente inviato da mozzarello

Quello che lo preoccupa non è tanto un discorso di qualità del codice, ma del fatto (che è poi quello che dico io da un po') che il lavoro cambierà completamente.

Il mio è già cambiato radicalmente, e mi piace. La mia passione è il problem solving, non la codifica in sé, che per me è sempre stata solo un mezzo per perseguire un fine. Il virtuosismo fine a sé stesso mi ha sempre lasciato molto tiepido, un po' come quei programmatori che per mostrare quanto erano fighi scrivevano strutture estremamente compatte che in una riga facevano le stesse cose di una funzione da 5 righe, creando codice illeggibile. Io ho sempre scritto codice pensando non solo ad altri che lo avrebbero letto, ma anche al me stesso di 5 anni dopo che lo avrebbe dovuto riprendere in mano.

ma ipotizzando l'IA resti stupida e richieda supervisione di un esperto (cosa che per me non sarà più necessaria nel giro di pochissimi anni)

Quello che mi fa dubitare su questa teoria è il fatto che l'AI comunque risponde a dei prompt, a delle domande, e senza la conoscenza di un esperto fino a che punto possono spingersi le domande? I miei prompt, molto lunghi ed elaborati, che comunque richiedono attitudine ed esperienza, sono strapieni di termini tecnici che la persona non esperta non può conoscere, non sa nemmeno che esistono certe cose.

questo esperto non potrà più fare il lavoro per cui ha studiato / è stato assunto

Io ho studiato informatica su sistemi e linguaggi che oggi non esistono più nemmeno nei musei, e nella vita ho cambiato ruolo tante volte, non è che ogni volta ho detto "eh, ma questo non è quello che ho studiato". Per me la scienza dell'informazione è una cosa sola, dagli sprite del Commodore 64 all'algebra vettoriale dei modelli AI è tutto parte dello stesso viaggio.

Chi adorava scrivere codice si trovarà a fare un lavoro di merda, con tutto quello che ne consegue.

Sfiga per te. Pensi che chi fa il fornaio adori cuocere il pane? Chi lavora in fabbrica adori piegare della lamiera? Che un tassista adori guidare o che un commercialista adori fare le dichiarazioni dei redditi? Capisco che tu viva questo cambiamento come una tragedia personale, ma per il resto del mondo il lavoro era già così, una necessità e non una passione. Non se ne accorgeranno nemmeno.

[mozzarello]

Originariamente inviato da mmorselli

Il mio è già cambiato radicalmente, e mi piace. La mia passione è il problem solving, non la codifica in sé, che per me è sempre stata solo un mezzo per perseguire un fine. Il virtuosismo fine a sé stesso mi ha sempre lasciato molto tiepido, un po' come quei programmatori che per mostrare quanto erano fighi scrivevano strutture estremamente compatte che in una riga facevano le stesse cose di una funzione da 5 righe, creando codice illeggibile. Io ho sempre scritto codice pensando non solo ad altri che lo avrebbero letto, ma anche al me stesso di 5 anni dopo che lo avrebbe dovuto riprendere in mano.

Quello che mi fa dubitare su questa teoria è il fatto che l'AI comunque risponde a dei prompt, a delle domande, e senza la conoscenza di un esperto fino a che punto possono spingersi le domande? I miei prompt, molto lunghi ed elaborati, che comunque richiedono attitudine ed esperienza, sono strapieni di termini tecnici che la persona non esperta non può conoscere, non sa nemmeno che esistono certe cose.

Il concetto, che ho già espresso molte volte, è che per me non sei tu ad aver fatto il lavoro, se il codice è scritto dalla IA. Non mi importa se mi dici che hai descritto esattamente quello che volevi e indirizzato l'IA, il lavoro lo ha fatto l'IA. Quando l'IA sarà abbastanza brava da capire le richieste di una casalinga di voghera, tu non servirai più. E non manca tanto.

Io ho studiato informatica su sistemi e linguaggi che oggi non esistono più nemmeno nei musei, e nella vita ho cambiato ruolo tante volte, non è che ogni volta ho detto "eh, ma questo non è quello che ho studiato". Per me la scienza dell'informazione è una cosa sola, dagli sprite del Commodore 64 all'algebra vettoriale dei modelli AI è tutto parte dello stesso viaggio.

Sfiga per te. Pensi che chi fa il fornaio adori cuocere il pane? Chi lavora in fabbrica adori piegare della lamiera? Che un tassista adori guidare o che un commercialista adori fare le dichiarazioni dei redditi? Capisco che tu viva questo cambiamento come una tragedia personale, ma per il resto del mondo il lavoro era già così, una necessità e non una passione. Non se ne accorgeranno nemmeno.

Sì, però quel che dice il tizio nel'articolo (e non è la prima volta che sento una cosa del genere) è quello: Da artigiano del codice a "pilota" di agenti
Io mi attengo a quello, non necessariamente ai miei gusti personali.

Molte persone fanno un lavoro perché è la loro passione, anche il fornaio, e molte persone si stanno trovando in una situazione in cui le loro competenze stanno diventando inutili, e non credo sia una cosa piacevole.

[demon77]

Originariamente inviato da mmorselli

Tipo? Le cavallette?

Tipo il fatto che la IA nel giro di poco produrrà codice (ma non solo) meglio di quanto l'uomo non sia in grado di fare.
Tipo il fatto che il codice prodotto (ma non solo) sarà tanto complesso che nessuno sarà in grado di metterci le mani o di capirci qualcosa.
Tipo il fatto che la IA si fotterà una marea di posti di lavoro.. e mi sa non solo.

[mozzarello]

Originariamente inviato da demon77

Tipo il fatto che la IA nel giro di poco produrrà codice (ma non solo) meglio di quanto l'uomo non sia in grado di fare.
Tipo il fatto che il codice prodotto (ma non solo) sarà tanto complesso che nessuno sarà in grado di metterci le mani o di capirci qualcosa.
Tipo il fatto che la IA si fotterà una marea di posti di lavoro.. e mi sa non solo.

Poi si meravigliano perché volevo nascere nel '45

[mmorselli]

Originariamente inviato da demon77

Tipo il fatto che la IA nel giro di poco produrrà codice (ma non solo) meglio di quanto l'uomo non sia in grado di fare.

Questo chiunque sappia come funziona l'apprendimento per rinforzo potrebbe darlo per scontato, senza bisogno di gente che fa previsioni.

Hai un link a qualche articolo che parla di queste "previsioni al day 1" (ma poi qual è il day 1? )

Tipo il fatto che il codice prodotto (ma non solo) sarà tanto complesso che nessuno sarà in grado di metterci le mani o di capirci qualcosa.

Questo non si è ancora verificato, anche perché alla fine è sempre codice, non è nuovo rispetto a quello che leggo da una vita. Se mai l'AI ne produce talmente tanto e tanto in fretta che si rinuncia a leggerlo molto spesso, ma non per la sua complessità, è una questione di tradeoff tra tempo e precisione. Le patch di Linux, scritte con l'AI, vengono revisionate da umani che si leggono tutto il codice, inoltre a me capita molto spesso di verificare parti di codice scritto dall'AI perché mi interessa capire come certe cose sono implementate, dato che l'AI spesso prende strade molto discutibili, e il modo per farlo è semplice, chiedo all'AI di spiegarmi le parti di codice che mi interessano. Questo sarà sempre possibile, almeno finché le AI scriveranno codice tradizionale, ma essendo che si sono addestrate su quello non vedo come potrebbero scriverne di non tradizionale

Tipo il fatto che la IA si fotterà una marea di posti di lavoro.. e mi sa non solo.

Questo non è ancora accaduto, a parte qualche multinazionale che ha licenziato persone non per sostituirle con l'AI, ma per recuperare denaro da investire nell'AI. Molte stanno già tornando sui loro passi, perché con l'AI attuale è una cazzata. Con quella futura non so, ma falla arrivare prima, poi ne parliamo.

Io penso che l'AI porterà ad un aumento di occupazione nel lavoro intellettuale, perché rende accessibili molti più progetti complessi, mentre vedo più a rischio quelli che possono essere sostituiti da automazione meccanica. Gli autisti, per esempio, non so come potrebbero esistere ancora fra 20 anni.

[demon77]

Originariamente inviato da mmorselli

Questo chiunque sappia come funziona l'apprendimento per rinforzo potrebbe darlo per scontato, senza bisogno di gente che fa previsioni.

Hai un link a qualche articolo che parla di queste "previsioni al day 1" (ma poi qual è il day 1? )

Il day 1 è quando è arrivato chatGPT e si è cominciato a vedere cosa si poteva fare. Anno 2023.

Le previsioni le ho fatte io. Qui.
E parecchi altri eh, non è che pretendo l'esclusiva.

Il link del 3d sul forum non lo so.. se vuoi cercalo ma non è che ci sia gran che da vedere in più.

Per quanto riguarda articoli di persone decisamente più illustri ed esperte di me ne trovi a migliaia.. così come trovi anche chi afferma l'esatto contrario.
DI FATTO adesso come adesso si sta senza dubbio verificando l'ipotesi uno.

Originariamente inviato da mmorselli

Questo non è ancora accaduto, a parte qualche multinazionale che ha licenziato persone non per sostituirle con l'AI, ma per recuperare denaro da investire nell'AI. Molte stanno già tornando sui loro passi, perché con l'AI attuale è una cazzata. Con quella futura non so, ma falla arrivare prima, poi ne parliamo.

Se ti butti da un palazzo di fatto sei perfettamente in salute fino ad un centesimo di secondo prima di arrivare a contatto col marciapiede. Poi ne parliamo.

[mmorselli]

Originariamente inviato da demon77

Il link del 3d sul forum non lo so..

No, figurati, mi fido, pensavo ti riferissi a previsioni di qualche personaggio mainstream.

Sul punto uno nessuno aveva dubbi, e c'è una ragione, il coding è verificabile, sai immediatamente se un pezzo di codice funziona oppure no, per cui durante una particolare fase dell'addestramento puoi metterla a risolvere milioni di problemi inventati e assegnare ricompense automatiche quando produci qualcosa che funziona bene. Stesso discorso degli scacchi, le regole sono chiare, puoi sempre capire se la partita è vinta o persa, non c'è praticamente limite all'automiglioramento, limite che invece un umano ha.

Però prova a fare una cosa... Chiedi all'AI di costruire due siti web basandoti su un'idea di base, ma facendoli diversi tra di loro. Questa si mette a lavorare e ti produce i due siti, entrambi ben fatti, su due cartelle diverse.

Poi chiedile: "ora cancella il più brutto e tieni solo il più bello dei due"

Un umano non avrebbe problemi a risolvere questo problema, ma per l'AI è molto più complicato, per lei entrambi erano bellissimi, perché entrambi "funzionavano"

Questo perché durante l'apprendimento per rinforzo non puoi automatizzare la discriminazione tra bello e brutto, ma nemmeno tra soluzione elegante e soluzione non elegante, entrambe perfettamente funzionanti, di un problema software. Solo un valutatore umano può fornire questa indicazione, e così l'AI non si può più addestrare su milioni di casi generati in automatico.

Questo per dire che i risultati straordinari ottenuti in un campo non sono automaticamente replicabili in un altro.

Se ti butti da un palazzo di fatto sei perfettamente in salute fino ad un centesimo di secondo prima di arrivare a contatto col marciapiede. Poi ne parliamo.

Sicuro, ma prima devi dimostrare che stai cadendo da un palazzo, e devi farlo con evidenze concrete. Le hai?

[demon77]

Originariamente inviato da mmorselli

Sicuro, ma prima devi dimostrare che stai cadendo da un palazzo, e devi farlo con evidenze concrete. Le hai?

La crescita esponenziale delle capacità della IA in soli tre anni sono sotto gli occhi di tutti direi.
Di fatto parecchi posti di lavoro sono già saltati, nei casi più eclatanti con dei licenziamenti negli altri in modo silenzioso con mancate assunzioni.

Con il ritmo con cui sta crescendo tutto questo davero vuoi dirmi che migliaia di posti di lavoro di impiegati entry level (ma non solo) non verranno fagocitati da agenti IA nel giro di pochissimi anni?

[monkey island]

Originariamente inviato da mmorselli

Sfiga per te. Pensi che chi fa il fornaio adori cuocere il pane? Chi lavora in fabbrica adori piegare della lamiera? Che un tassista adori guidare o che un commercialista adori fare le dichiarazioni dei redditi? Capisco che tu viva questo cambiamento come una tragedia personale, ma per il resto del mondo il lavoro era già così, una necessità e non una passione. Non se ne accorgeranno nemmeno.

Sovente c'è chi fa il proprio lavoro con passione, vuoi perchè è una tradizione di famiglia (es. fornaio), vuoi perchè gli piace guidare e avere contatto col pubblico (tassista).

Originariamente inviato da mozzarello

Poi si meravigliano perché volevo nascere nel '45

Ho pensato la stessa cosa parecchie volte. boomer inside

[Cromwell]

Originariamente inviato da mozzarello

Poi si meravigliano perché volevo nascere nel '45

Comodo eh?!
E perchè non prima?

[mmorselli]

Originariamente inviato da demon77

La crescita esponenziale delle capacità della IA in soli tre anni sono sotto gli occhi di tutti direi.

Certo, non la definirei ancora esponenziale, perché il termine indica una crescita accelerata, cioè se prima raddoppiavi le prestazioni in 30 giorni, dopo le raddoppi in 15, poi in 7, ecc... L'AI sta invece seguendo una crescita lineare, con la tendenza a diventare logaritmica, cioè il contrario del concetto espresso prima, un raddoppio di prestazioni chiede il doppio, e non la metà, del tempo precedente, oppure nello stesso tempo il guadagno percentuale è la metà. Al di là degli annunci roboanti, a me sembra che il miglioramento tra GPT 5 e GPT 6 sia nettamente minore di quello avuto tra GPT 4 e GPT 5, che a sua volta è stato minore del salto tra GPT 3 e GPT 4.

Pero, lineare, esponenziale, o logaritmica che sia, sempre di crescita parliamo, ma risponderebbe solo al tuo punto 1) che abbiamo già detto essere vero. Non ci dice nulla invece degli altri due punti, se fra un anno GPT 7 scriverà codice ancora migliore e più velocemente, ma avrà ancora bisogno del mio input esperto e della mia verifica, se conterà ancora sulle mie decisioni, il punto 2 e 3 non si verificano. Al momento non ci sono segnali che stia accadendo.

Di fatto parecchi posti di lavoro sono già saltati, nei casi più eclatanti con dei licenziamenti negli altri in modo silenzioso con mancate assunzioni.

E quali sono questi lavori? Basta che non mi citi i call center che sono un settore verticalissimo... Che poi a me stanno ancora rompendo i coglioni degli umani, si vede che costano meno rispetto ai token.

Fammi esempi generalizzati di perdita di lavoro a causa dell'AI, non verticali, perché altrimenti potrei dire che gli smartphone hanno fatto fuori gli sterilizzatori di telefoni da ufficio (vediamo chi coglie la citazione) o che i Wordprocessor e le stampanti laser hanno fatto fuori le dattilografe.

Con il ritmo con cui sta crescendo tutto questo davero vuoi dirmi che migliaia di posti di lavoro di impiegati entry level (ma non solo) non verranno fagocitati da agenti IA nel giro di pochissimi anni?

Io non voglio dirti né che lo faranno, né che non lo faranno, non ho la sfera di cristallo, voglio solo dirti che in questo momento questo effetto non si vede, e la cosa non sorprende visto che l'AI non mi sembra neppure lontanamente autonoma al punto da essere inserita nei processi produttivi. Se mai nella produttività personale, quella a basso valore a cui prima rinunciavi perché mai avresti pagato un professionista per montarti il video delle vacanze.

[mmorselli]

Originariamente inviato da Cromwell

Comodo eh?!
E perchè non prima?

Più che l'anno a quel punto conta CHI nasci. Tipo potrei anche nascere nel medioevo, se nasco duca e posso avvalermi dello jus primae noctis, se invece nasco povero e con la peste, anche no.

Io posso nascere nel 2370 invece? Accetto persino il rischio di trovarmi nel deserto post-apocalittico di Mad Max, se succede sfiga, ma se c'è la Federazione dei Pianeti Uniti ho fatto bingo.