Basta 'AI slop': Godot vieta ufficialmente il codice scritto dall'intelligenza artificiale

[Redazione di Hardware Upg]

Link alla notizia: https://gaming.hwupgrade.it/news/vid...le_155742.html

La Godot Foundation ha varato una stretta sulle pull request: da oggi il codice generato dall'intelligenza artificiale non sarà più accettato nel motore open source che muove giochi come Slay the Spire 2 e The Case of the Golden Idol

Click sul link per visualizzare la notizia.

[demon77]

Questa è una bella gatta da pelare.
La scrittura di codice è una delle cose dove la IA può davvero fare la differenza, non credo ci voglia gran che prima che una IA specializzata sia in grado di produrre codice di qualità superiore a quello che potrebbe fare un team di programmatori umani.
Intendo anche codice maggiormente ottimizzato immaginando che la potenza di una IA possa prima crearne una versione base per poi rivederlo più e più volte per renderlo più performante e anche più sicuro.

Il punto è che tutto questo poi diventa incomprensibile ed inaccessibile ad un proremmatore umano che vuole metterci mano..

[s12a]

Un altro problema è che molti (i soliti attivisti della Causa dell'ultim'ora) stanno cercando di rendere il "no IA" parte integrante della propria bandiera politica, dunque coloro che non vogliono essere presi a calci o cacciati via dalle proprie cerchie di conoscenze si vedono socialmente costretti a salire sullo stesso carro, anche senza avere personalmente particolari problemi con l'uso ragionevole e considerato dell'IA.

[demon77]

Originariamente inviato da s12a

Un altro problema è che molti (i soliti attivisti della Causa dell'ultim'ora) stanno cercando di rendere il "no IA" parte integrante della propria bandiera politica, dunque coloro che non vogliono essere presi a calci o cacciati via dalle proprie cerchie di conoscenze si vedono socialmente costretti a salire sullo stesso carro, anche senza avere personalmente particolari problemi con l'uso ragionevole e considerato dell'IA.

ah guarda, il tema della IA ed relativo impatto sulla vita delle persone (specie in campo lavorativo) sarà a dire poco centrale nella politica.
Questo è davvero una certezza.

[s12a]

Non intendo dire che i politici non se ne occuperanno o che non influenzerà la vita sociale e lavorativa della gente a breve/medio termine, ma che una grande fetta delle voci "no IA" proviene da persone senza alcun interesse in gioco e che si limitano a ripetere a pappagallo le opinioni del branco.

Prova ad essere uno sviluppatore indie di videogiochi e rivelare che per accorciare i i tempi di sviluppo (pure se magari il gioco lo hai creato solo tu e stop) hai usato l'IA generativa per alcuni asset...

[mmorselli]

Mi chiedo come fanno a riconoscere se un codice è scritto dall'AI, secondo me è una sorta di regola da applicare su base volontaria, più un messaggio inviato a chi pensava di strafare perché ora c'è l'AI

Anche perché il problema di questo progetto, come di molti altri, non è che il codice AI sia sbagliato, ma che pesa troppo sui mantainer che devono verificarlo tutto a mano.

Io farei una cosa diversa, accetterei il codice fatto dall'AI, però me lo mandi assieme a tutti i prompt che lo hanno generato e i report che faceva l'agente ad ogni modifica, così almeno diventano chiare le intenzioni, se c'è un errore di logica o funzionale è molto più facile capire perché.

Poi prenderei tutte queste PR corredate di prompt e chiederei ad un agente di selezionare le più urgenti e interessanti, e solo di quelle faccio il check a mano e il merge.

[demon77]

Originariamente inviato da s12a

Non intendo dire che i politici non se ne occuperanno o che non influenzerà la vita sociale e lavorativa della gente a breve/medio termine, ma che una grande fetta delle voci "no IA" proviene da persone senza alcun interesse in gioco e che si limitano a ripetere a pappagallo le opinioni del branco.

Prova ad essere uno sviluppatore indie di videogiochi e rivelare che per accorciare i i tempi di sviluppo (pure se magari il gioco lo hai creato solo tu e stop) hai usato l'IA generativa per alcuni asset...

Hai appena descritto con precisione UN TERZO della pololazione votante.
Anzi ALMENO UN TERZO.

Io è da anni che dico che il diritto di voto a suffragio universale non è idoneo e deve essere ottenuto con appositi test di ammissione atti a valutare almeno il non analfabetismo funzionale.

[WarDuck]

Originariamente inviato da s12a

Un altro problema è che molti (i soliti attivisti della Causa dell'ultim'ora) stanno cercando di rendere il "no IA" parte integrante della propria bandiera politica, dunque coloro che non vogliono essere presi a calci o cacciati via dalle proprie cerchie di conoscenze si vedono socialmente costretti a salire sullo stesso carro, anche senza avere personalmente particolari problemi con l'uso ragionevole e considerato dell'IA.

E' tutto diventato politica, propaganda e polarizzazione, schierarsi dall'una o dall'altra parte senza vie di mezzo.

Purtroppo divide et impera sta funzionando troppo bene. L'unica soluzione realistica e' il black-out totale di ogni social network in modo da ricominciare a parlare tra persone nel mondo reale.

[WarDuck]

Originariamente inviato da mmorselli

Mi chiedo come fanno a riconoscere se un codice è scritto dall'AI, secondo me è una sorta di regola da applicare su base volontaria, più un messaggio inviato a chi pensava di strafare perché ora c'è l'AI

Anche perché il problema di questo progetto, come di molti altri, non è che il codice AI sia sbagliato, ma che pesa troppo sui mantainer che devono verificarlo tutto a mano.

Io farei una cosa diversa, accetterei il codice fatto dall'AI, però me lo mandi assieme a tutti i prompt che lo hanno generato e i report che faceva l'agente ad ogni modifica, così almeno diventano chiare le intenzioni, se c'è un errore di logica o funzionale è molto più facile capire perché.

Poi prenderei tutte queste PR corredate di prompt e chiederei ad un agente di selezionare le più urgenti e interessanti, e solo di quelle faccio il check a mano e il merge.

Per me e' un problema di attribuzione di responsabilita', che dovrebbe essere sempre degli esseri umani, sia che sviluppano con, che senza IA.

Non e' che scrivo due righe di prompt, poi faccio copia incolla del risultato in una pull request di migliaia di righe di codice e poi me ne fotto.

Infatti per me deve entrare assolutamente in gioco l'affidabilita' di uno sviluppatore e la sua reputazione.

Dal mio punto di vista l'open source e' ad un bivio fondamentale.

[LMCH]

Originariamente inviato da demon77

Questa è una bella gatta da pelare.
La scrittura di codice è una delle cose dove la IA può davvero fare la differenza, non credo ci voglia gran che prima che una IA specializzata sia in grado di produrre codice di qualità superiore a quello che potrebbe fare un team di programmatori umani.
Intendo anche codice maggiormente ottimizzato immaginando che la potenza di una IA possa prima crearne una versione base per poi rivederlo più e più volte per renderlo più performante e anche più sicuro.

Il punto è che tutto questo poi diventa incomprensibile ed inaccessibile ad un proremmatore umano che vuole metterci mano..

Ah! Ah! Ah! NO.

Nella realtà non funziona così.
Le attuali "AI" sono dei tool che possono essere utili, ma non sono le AGI che certi immaginano (e non lo daranno MAI, gli LLM hanno dei veri e propri difetti strutturali intal senso).

Chiunque abbia un minimo di esperienza lavorativa sa che scrivere codice occupa a dir tanto il 5..10% nello sviluppo di un applicazione.
Gli unici casi in cui si supera tale soglia si hanno quando c'é qualcosa di fondamentalmente sbagliato nella metodologia di sviluppo oppure si sta scrivendo codice senza appoggiarsi a librerie e tool preesistenti.

Per questo nonostante l'uso massiccio di tool basati su LLM non si vede il miglioramento della produttività promesso dagli "AI bro".

[mmorselli]

Originariamente inviato da WarDuck

Per me e' un problema di attribuzione di responsabilita', che dovrebbe essere sempre degli esseri umani, sia che sviluppano con, che senza IA.

Io scrivo tutto il mio codice con l'AI, ma facendolo per lavoro ne sono sempre responsabile, e quando c'è un problema so come sistemarlo perché il progetto è mio. Nelle mie cartelle di progetto conservo anche tutti i prompt, in particolare quelli molto strutturati da 100+ righe che dettagliano la specifica di progetto. Per questo dicevo che il prompt potrebbe accompagnare il codice, perché se il codice l'ha scritto l'AI, il prompt l'ha scritto un umano, e dal prompt risultano chiarissime le intenzioni, le premesse e ciò che si vuole ottenere. Se mi mandi una patch da 1000 righe e una descrizione sommaria potrei non essere in grado di testarla, ma se mi mandi tutto il flusso logico che l'ha generata sì.

Secondo me però la lamentela dei manteiner è che con l'AI ne arrivano troppe e non hanno il tempo di gestirle, la scrittura a mano fungeva da filtro. Per questo dicevo che l'AI potrebbe aiutare a selezionare le cose più urgenti ed importanti.

[mmorselli]

Originariamente inviato da LMCH

Chiunque abbia un minimo di esperienza lavorativa sa che scrivere codice occupa a dir tanto il 5..10% nello sviluppo di un applicazione.

Questa stima era vera in passato, ma va rivista (anche se metterei 20%, a meno di non tirare dentro pure il PM che va dal cliente a farsi approvare il progetto)

Ieri si dedicava molto tempo a pensare cosa avrebbe risolto il problema, e poi altro tempo a pensare al come, e infine c'era la scrittura del codice che traduceva quel come in sintassi.

Oggi pensi al cosa, puoi delegare il come all'AI e verificare se il risultato ti soddisfa. Se mi serve una funzionalità io chiedo di implementarla, l'AI è libera di prendere la strada che preferisce. Per me verificarla è un impegno molto minore rispetto a deciderla.

[demon77]

Originariamente inviato da LMCH

Ah! Ah! Ah! NO.

Nella realtà non funziona così.
Le attuali "AI" sono dei tool che possono essere utili, ma non sono le AGI che certi immaginano (e non lo daranno MAI, gli LLM hanno dei veri e propri difetti strutturali intal senso).

Chiunque abbia un minimo di esperienza lavorativa sa che scrivere codice occupa a dir tanto il 5..10% nello sviluppo di un applicazione.
Gli unici casi in cui si supera tale soglia si hanno quando c'é qualcosa di fondamentalmente sbagliato nella metodologia di sviluppo oppure si sta scrivendo codice senza appoggiarsi a librerie e tool preesistenti.

Per questo nonostante l'uso massiccio di tool basati su LLM non si vede il miglioramento della produttività promesso dagli "AI bro".

Non ho esperienza di programmazione e quindi prendo per buono tutto ciò che hai detto.

Dico solo però che quelo che oggi vedo fare ad una IA è pura fantascienza rispetto a quello che si poteva fare tre anni fa. TRE, non trenta.
Ho anche visto Claude all'opera da un amico che programma (roba per automantismi industriali, quindi roba relativamente semplice) e devo dire di essere rimasto impressionato.

Non so.. sei davvero sicuro che ciò che hai detto adesso resterà valido tra cinque o dieci anni?

[mmorselli]

Originariamente inviato da demon77

Dico solo però che quelo che oggi vedo fare ad una IA è pura fantascienza rispetto a quello che si poteva fare tre anni fa. TRE, non trenta.

Puoi tranquillamente sbilanciarti a dire 18 mesi. Io 18 mesi fa ho iniziato a collaborare con una nuova azienda dove l'AI mi sarebbe servita molto più del solito dato che i progetti diventavano tanti e vari e quindi non avrei mai avuto il tempo di maturare esperienza su tutti quanti, e mi ricordo bene come fosse l'AI di 18 mesi fa, giusto un piccolo aiuto per scrivere codice senza preoccuparsi degli errori di sintassi, i miei colleghi non avevano ancora fatto il salto dall'autocompletamento intelligente delle funzioni alla vera scrittura agentica, che comunque faceva più danni che cose buone. Oggi l'IA è nettamente migliore di me a scrivere codice e mantenersi coerente su un progetto di grandi dimensioni, lo dico senza imbarazzo.

18 mesi.

[zappy]

Originariamente inviato da demon77

Non ho esperienza di programmazione e quindi prendo per buono tutto ciò che hai detto.

Dico solo però che quelo che oggi vedo fare ad una IA è pura fantascienza rispetto a quello che si poteva fare tre anni fa. TRE, non trenta.
Ho anche visto Claude all'opera da un amico che programma (roba per automantismi industriali, quindi roba relativamente semplice) e devo dire di essere rimasto impressionato.

Non so.. sei davvero sicuro che ciò che hai detto adesso resterà valido tra cinque o dieci anni?

Concordo che è davvero notevole (e uso roba gratuita).
Non sempre funziona tutto come "racconta" l'IA, ma nei prompt non metto neanche il caso/codice/situazione reale che voglio risolvere, per questioni di sicurezza e riservatezza, per cui ci sta che non sempre azzecchi la soluzione.

[zappy]

Originariamente inviato da mmorselli

Puoi tranquillamente sbilanciarti a dire 18 mesi. Io 18 mesi fa ho iniziato a collaborare con una nuova azienda dove l'AI mi sarebbe servita molto più del solito dato che i progetti diventavano tanti e vari e quindi non avrei mai avuto il tempo di maturare esperienza su tutti quanti, e mi ricordo bene come fosse l'AI di 18 mesi fa, giusto un piccolo aiuto per scrivere codice senza preoccuparsi degli errori di sintassi, i miei colleghi non avevano ancora fatto il salto dall'autocompletamento intelligente delle funzioni alla vera scrittura agentica, che comunque faceva più danni che cose buone. Oggi l'IA è nettamente migliore di me a scrivere codice e mantenersi coerente su un progetto di grandi dimensioni, lo dico senza imbarazzo.

18 mesi.

quindi fra altri 18 (o 9?) mesi sarai licenziato

[LMCH]

Originariamente inviato da demon77

Non so.. sei davvero sicuro che ciò che hai detto adesso resterà valido tra cinque o dieci anni?

Si, purtroppo ne sono sicuro.
É per questo che gente come Yan LeCun sta lavorando a nuovi approcci tipo JEPA; i limiti dei LLM ormai sono sin troppo evidenti a che é del settore.
Il vero problema al momento é se la mostruosa bolla speculativa creatasi si sgonfierà lentamente e dolorosamente, oppure se imploderà di brutto e molto piü dolorosamente.

Poi ci sarebbe da fare un lungo discorso su come tanti posti di lavoro in ambito informatico non dovrebbero proprio esistere, certe cose relativamente semplici sono state ripetutamente rese inutilmente complicate e complesse a causa di interessi contrastanti a livello di mercato ed altro.
I tool basati su LLM rendono più gestibili tali problematiche .. oppure le complicano orrendamente (l'effetto Dunning-Kruger combinato con i tool basati su LLM genera veri mostri).
Per questo specialmente i posti di lavoro che dovevano sparire ... invece di sparire persistono e causano un aumento dei costi alle aziende (non avete idea in quante aziende gli LLM vengono usati per fare lo stesso lavoro .. producendo molta più rumenta).

[mmorselli]

Originariamente inviato da zappy

quindi fra altri 18 (o 9?) mesi sarai licenziato

E chi lo sa? Stiamo vivendo un momento di transizione in cui le cose si muovono velocemente. Se sarà solo un miglioramento rispetto all'attuale no, perché l'AI è diventata più brava di me a fare una cosa, ma è ancora scarsissima, per non dire totalmente incompetente, a farne un'altra, cioè decidere cosa è giusto fare.

Su questa cosa ho un aneddoto molto recente che mi ha fatto morire dalle risate, anche se mi ha fatto perdere tempo. Mi passano un progetto con molti anni di vita alle spalle, una vetrina molto articolata di articoli per alberghi, ristoranti e roba così. Realizzata certamente da persone che non avevano esperienza con la piattaforma che stavano usando e quindi hanno preso strade tecnicamente sbagliate, ma che alla fine funzionavano. Io dovevo estenderlo aggiungendo una sezione simile ad una esistente, ma con un livello di dettaglio extra. Siccome non conoscevo minimamente il progetto ho chiesto all'AI di prepararmi un'analisi in cui venisse dettagliato il funzionamento attuale, un piano per creare questa nuova sezione prendendo spunto dall'esistente, ma con le nuove specifiche, e il dettaglio su cosa dovesse essere implementato via codice e cosa da backend, cioè lato utente. Leggo il piano, mi convince e dico di procedere con la parte relativa al codice. Una volta finita inizio a fare la mia parte, e mi accorgo che non è per nulla simile alle altre sezioni. Questa la conversazione che è seguita:

- sto provando a completare lato backend, ma mi sembra diverso dalla sezione che ti ho dato come riferimento, puoi spiegarmi il motivo?
- sì, lo so che è diverso, ma come l'ho fatto io è molto meglio.
- ok, lo so che l'esempio che ti ho dato faceva schifo, ma farlo meglio implica un modo diverso di operare da parte dell'utente finale, che usa il sistema da anni
- hai ragione, se l'utente è abituato così, forse è meglio farlo sbagliato come il resto.

Ecco, quando avrà la sensibilità di capire che a volte è necessario fare le cose male, io perderò il lavoro

[mmorselli]

Originariamente inviato da LMCH

É per questo che gente come Yan LeCun sta lavorando a nuovi approcci tipo JEPA; i limiti dei LLM ormai sono sin troppo evidenti a che é del settore.

JEPA può essere complementare agli LLM, non sostituirli. Far scrivere codice ad un modello JEPA sarebbe come farlo scrivere a qualcuno che ha capito benissimo il problema, ma che non conosce nulla del linguaggio che deve usare per risolverlo. Come se imparassi ogni cosa a livello concettuale del C++, ma non avessi mai scritto una riga di codice vero nella mia vita. Un LLM fa il contrario, ha capito solo sommariamente il problema, ma ha scritto tanto di quel codice nella sua vita che è in grado di risolverlo scrivendo in modo istintivo.

[zappy]

Originariamente inviato da mmorselli

....
- hai ragione, se l'utente è abituato così, forse è meglio farlo sbagliato come il resto.

LOL ha detto proprio così?