Debian valuta lo stop totale ai contributi generati dall'IA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/sistem...ia_156914.html

La comunità dello storico progetto Linux ha avviato una discussione per valutare una linea di tolleranza zero verso l'uso di modelli generativi nelle patch e nel codice inviato dai contributori

Click sul link per visualizzare la notizia.

[Hiei3600]

Quindi tutti i bug trovati dal AI non saranno nemmeno segnalati ed invece saranno distribuiti ai soliti malintenzionati ? ok

[marcram]

Non riesco a capire il senso...
Punisci il contributore, se manda contributi di scarso valore, non punire lo strumento...

E' come dire "non accettiamo patch da chi ha la connessione internet veloce, perché con quella connessione possono mandarci una valanga di patch a cui non riusciamo a stare dietro"... E' colpa della connessione?

[coschizza]

Originariamente inviato da Hiei3600

Quindi tutti i bug trovati dal AI non saranno nemmeno segnalati ed invece saranno distribuiti ai soliti malintenzionati ? ok

non hai capito cosa hanno detto, non non fanno quello che dici

[coschizza]

Originariamente inviato da marcram

Non riesco a capire il senso...
Punisci il contributore, se manda contributi di scarso valore, non punire lo strumento...

E' come dire "non accettiamo patch da chi ha la connessione internet veloce, perché con quella connessione possono mandarci una valanga di patch a cui non riusciamo a stare dietro"... E' colpa della connessione?

ad oggi tutti report generati dall' ai sono di basso valore lo ha detto pure linus

se lo strumento è scarso devi punire chi lo usa

la qualita ha un costo se è quello di non usare l'ai va bene cosi, vuol dire che non è pronta

[dirac_sea]

Beh, NetBSD, per fare un esempio, è dal 2024 che considera il codice generato dagli LLM come "presumibilmente contaminato". Mentre il team leader di OpenBSD afferma che il codice degli LLM non potendo essere messo sotto copyright neppure può contribuire allo sviluppo del sistema.

[Axios2006]

Resta aperto il nodo dell'applicazione pratica di una simile direttiva. Distinguere il codice scritto da un programmatore umano da quello generato o affinato da una macchina rimane un problema complesso, privo di strumenti di analisi del tutto infallibili. L'efficacia della misura si affiderebbe in larga parte al rispetto spontaneo delle linee guida e alla responsabilità dei singoli sviluppatori, ponendo la fiducia reciproca al centro della tutela del software libero.

Autocertificazione... Fidati... Oppure potrebbero affidare alla IA di capire se e' codice scritto dalla IA...

[leptone]

https://www.debian.org/vote/2026/vote_002

Ma io sono scemo
Invece di capire che stanno discutendo valutando e votando su cosa fare e come affrontare

Ormai siamo a uno step oltre
1 tutti hanno smesso di dire è solo un pappagallo stocastico e si valutano le capacità emergenti

2 ormai abbiamo capito tutti che dipende da chi la usa ovvero se sa usare ai e se ha competenza nel campo

3 ai è qui per restare

Quindi il problema è come affrontare la cosa

Uno dei tanti problemi per Debian sono le licenze e occhio che pure la documentazione ha licenza

A titolo d'esenpio
Siccome so o scemo
Nei primi anni 2000 rimasi sorpreso nel vedere che nei pacchetti non-free c'era un pacchetto con un manuale per emacs

Ci può essere copiright a che per la documentazione

O anche per le mailing list

Io non ho ancora capito se genero codice con llm posso metterlo proprietario? Dato che viene dal software open ?

Posso scrivere un filesystem con le stesse features di zfs e licenziarlo mit o gpl3???????
Per piacere aiutatemi a capire

[mmorselli]

Originariamente inviato da leptone

Io non ho ancora capito se genero codice con llm posso metterlo proprietario? Dato che viene dal software open ?

Ma già sta cosa di per sé non ha senso, i modelli LLM non hanno mezza riga di codice scritta dentro, e manco mezza riga di testo se è per questo. Hanno solo le probabilità di un token di essere correlato a tutti gli altri, le probabilità che un pezzo di codice assomigli ad uno esistente sono le stesse di un bravo programmatore che scrive a mano lo stesso codice, non ci sarà mai il copia e incolla di una singola funzione perchè statisticamente il suo peso è irrilevante, la funzione nuova sarà composta dal contributo di migliaia di funzioni simili e anche meno simili.

Discorso patch, io l'unico senso che riesco a dargli è "ragazzi, andate più piano, non ci stiamo dentro a revisionare a mano le pull request, so che con l'AI andate più veloci, ma noi siamo il collo di bottiglia, quindi calmatevi"

Se fosse realmente un discorso contro l'AI avrebbe le gambe cortissime.

[leptone]

Io ho capito che i modelli hanno i parametri
E i parametri si autoregolano con addestramento
I modelli sono addestrati col codice open source
Molti programmi open source si sentono derubati
E si dicono pentiti perché la licenza non li protegge più e il loro codice è finito nei modelli sotto forma di addestramento
Come credi che sappia generare la probabilità....
E poi ci sono le proprietà emergenti
Microsoft ha acquistato GitHub per addestrate i modelli sul codice open e farlo sputare a copilot.....

Dire che hanno solo probabilità sposta la questione .... Se sanno prevedere è perché sono addestrati sul codice e tutto il testo che hanno avuto in pasto è sintetizzato nei pesi come negli embeddings

[leptone]

Cavolo ne discutono ad alti livelli e ora io e tu vogliamo liquidare con 2 cavolate semplici

[mmorselli]

Originariamente inviato da leptone

Io ho capito che i modelli hanno i parametri
E i parametri si autoregolano con addestramento
I modelli sono addestrati col codice open source
Molti programmi open source si sentono derubati

Sì, ma per una ragione diversa, perché sono stati usati per addestrare il modello senza chiedere il permesso, o magari pagare qualcosa. Avrebbero dovuto farlo? Non so risponderti io, ma tanto hanno tutti deciso di far passare il principio "ormai quel che è fatto è fatto"

Però questo non significa che il codice prodotto sarà lo stesso codice con cui si sono addestrati, se questo accade allora vuol dire che quel pezzo di codice o quel metodo sono molto comuni. Per spiegarmi meglio, immagina di aver inventato un algoritmo elegantissimo per risolvere un problema molto verticale, così verticale che pur essendo opensource nessuno ha mai sentito il bisogno di usare questo algoritmo in un suo progetto. Il modello si addestra con il tuo codice, tra gli altri miliardi di codici con cui fa pre-training, poi un giorno io chiedo al modello di risolvere lo stesso problema verticale. E' molto difficile che il modello usi il tuo metodo in modo identico, perché quel codice quando è entrato nei dati di addestramento ha influito sui pesi per uno 0,00000000niente, sommerso dal rumore di miliardi e miliardi di altri documenti. Al contrario se il tuo codice è una figata utilissima ed è stato implementato ovunque allora emergerà dal modello perché l'ha imparato. E' come quando gli chiedi come inizia la Divina Commedia, un LLM lo sa non perché "ha letto la Divina Commedia", ma perché l'inizio della Divina Commedia viene citato milioni di volte in rete, e quindi "pesa" tanto come probabilità.

[marcram]

Originariamente inviato da mmorselli

Sì, ma per una ragione diversa, perché sono stati usati per addestrare il modello senza chiedere il permesso, o magari pagare qualcosa. Avrebbero dovuto farlo? Non so risponderti io, ma tanto hanno tutti deciso di far passare il principio "ormai quel che è fatto è fatto"

Però questo non significa che il codice prodotto sarà lo stesso codice con cui si sono addestrati, se questo accade allora vuol dire che quel pezzo di codice o quel metodo sono molto comuni. Per spiegarmi meglio, immagina di aver inventato un algoritmo elegantissimo per risolvere un problema molto verticale, così verticale che pur essendo opensource nessuno ha mai sentito il bisogno di usare questo algoritmo in un suo progetto. Il modello si addestra con il tuo codice, tra gli altri miliardi di codici con cui fa pre-training, poi un giorno io chiedo al modello di risolvere lo stesso problema verticale. E' molto difficile che il modello usi il tuo metodo in modo identico, perché quel codice quando è entrato nei dati di addestramento ha influito sui pesi per uno 0,00000000niente, sommerso dal rumore di miliardi e miliardi di altri documenti. Al contrario se il tuo codice è una figata utilissima ed è stato implementato ovunque allora emergerà dal modello perché l'ha imparato. E' come quando gli chiedi come inizia la Divina Commedia, un LLM lo sa non perché "ha letto la Divina Commedia", ma perché l'inizio della Divina Commedia viene citato milioni di volte in rete, e quindi "pesa" tanto come probabilità.

Ma se quel pezzo di codice fa esattamente quello di cui hai bisogno, il suo peso nell'addestramento aumenta tantissimo, perché associato esattamente a quei parametri non comuni che stai cercando tu.

Se un LLM si addestra con "il 5 maggio" di Manzoni, non imparerà a memoria la poesia, ma l'associazione tra "ei" e "fu" sarà quasi unica.
In un discorso normale, non apparirà mai, ma se io chiedo "una frase famosa che inizia con 'ei'", lui troverà l'unica (rara) associazione tra i suoi pesi, ed ecco che 'ei fu siccome immobile' apparirà, pur non essendo memorizzata come stringa di testo consecutiva.
Se la poesia fosse coperta da copyright, ecco che l'addestramento su quella poesia avrebbe portato a una copia non autorizzata.

D’altronde, la memoria umana non funziona in modo tanto diverso.
Non memorizziamo stringhe perfette, ed infatti ci succede spesso di confondere le parole memorizzate in una frase.
Ma dici che quando ci mettiamo a cantare in pubblico una canzone famosa, non stiamo violando dei diritti perché non stiamo leggendo il testo copia-incollato su un foglio di carta?

Tra l'altro, anche prodotti diffusi in milioni di copie, sono comunque protetti da diritti. Il loro peso generale è molto alto, perché si trovano dappertutto, quindi c'è un'alta probabilità di vederseli suggeriti, e quindi di violare gli stessi diritti.

[mmorselli]

Originariamente inviato da marcram

Ma se quel pezzo di codice fa esattamente quello di cui hai bisogno, il suo peso nell'addestramento aumenta tantissimo, perché associato esattamente a quei parametri non comuni che stai cercando tu.

Dovresti fargli la domanda con già dentro la soluzione per essere così specifico, e ancora avrei qualche dubbio che funzionerebbe. L'associazione tra il tuo prompt e quel pezzo di codice è semantica, non dimenticare che il confronto viene fatto a token, nemmeno parola per parola, e i token del tuo prompt è impossibile che siano univocamente associati ai token di quel pezzo di codice che hanno influito sui pesi per miliardesimi del totale. Se il modello arriva ad una soluzione simile alla tua è perché tutti gli altri miliardi di pezzi di codice conducono in quella direzione, così come inconsciamente avrà fatto anche il programmatore umano.

[leptone]

Purtroppo nei post qui è difficile fare una discussione precisa....

Qui non si tratta che uno posta cose giuste e l'altro no, si tratta di discutere e ognuno apporta il suo contributo/considerazione
Per me, ma per me tutto quello detto in questo threads non è sbagliato ma la cosa è più complessa e sottile, noi siamo abituati a ragionare in modo deterministico e abbiamo digerito il modello ad architettura dove non ci si deve preoccupare del livello sotto come si quello sopra..... Ma con ai questo cambia sia per cose tipo back propagation ma anche perché sono oggetti opachi anche per chi li costruisce e studia, noi siamo abituati alla mentalità tipo debugging dove segui la variabile passo passo, o ai fogli di calcolo.....(Spero mi capiate anche se mi esprimo approssimativamente)

La cosa che ho capito io (non cito fonti perché magari ho capito male io, e perché non è la mia materia ma solo curiosità) con i nuovi modelli le cose stanno cambiando, dato che emergono sempre di più cose nuove o cambiano le cose vecchie

Il fatto è che sono argomenti complessi e soprattutto non deterministici
E su una cosa sicuramente non sono d'accordo anzi mi sento di smentirla oggettivamente: quello che abbiamo imparato e capito sugli llm, con i modelli vecchi ora non vale più


Scusate se non mi esprimo in modo tecnico preciso ed esauriente ma accenno solo

Volevo dire che la la comunità (programmatori, produttori llm ecc) non sono d'accordo sulla Livenza da applicare al codice prodotto da ai

Ho fatto un esempio banale ma anche fantasioso

Se prendo un agente e gli fisso come goal di fare una reimplementazione/refactoring (quindi non clean room) di zfs e la metto sotto gpl3 Oracle mi farà causa?

Faccio esempio di zfs perché ha già una licenza particolare che dà problemi di integrazione

[mmorselli]

Originariamente inviato da leptone

Purtroppo nei post qui è difficile fare una discussione precisa....

La cosa che ho capito io (non cito fonti perché magari ho capito male io, e perché non è la mia materia ma solo curiosità) con i nuovi modelli le cose stanno cambiando, dato che emergono sempre di più cose nuove o cambiano le cose vecchie

ok non fare trattati accademici su un forum, però tu qui non hai scritto nulla, sembra un giro di parole per dire tutto e niente. Se non è la tua materia scegli a quale livello di astrazione capire le cose, qualunque va bene, però fallo, non metterci la fantasia perché non porta da nessuna parte.

Il fatto è che sono argomenti complessi e soprattutto non deterministici
E su una cosa sicuramente non sono d'accordo anzi mi sento di smentirla oggettivamente: quello che abbiamo imparato e capito sugli llm, con i modelli vecchi ora non vale più

I modelli nuovi non sono così diversi da quelli vecchi, abbiamo migliorato molto l'addestramento con il reinforcement learning e l'inferenza con la catena dei pensieri e varie tecniche per gestire l'attenzione, ma non è uscito nessun genio dalla lampada, abbiamo modelli sempre più grandi in grado di risolvere problemi sempre più complessi con sempre più precisione, come un ragazzino che dalle medie passa alle superiori e poi all'università, è la stessa persona che progredisce.

Se prendo un agente e gli fisso come goal di fare una reimplementazione/refactoring (quindi non clean room) di zfs e la metto sotto gpl3 Oracle mi farà causa?

Se lo fa un agente è certamente un clean room, perchè l'agente si legge il codice per capirlo, non per copiarlo. Un umano leggerebbe la documentazione, un agente AI può leggere il codice. Io lo faccio sempre nei miei progetti, quando devo implementare delle funzionalità frontend fornisco all'agente il percorso del backend, non la documentazione delle API, funziona molto meglio.

La licenza di zfs protegge il codice, non l'idea, se vuoi toglierti ogni dubbio chiedi all'AI di riscriverlo in Rust, poi prendi il prodotto in Rust e se funziona ancora lo usi come base per riscriverlo in C. Posto che l'esperimento funzioni, dubito senza metterci un bel po' di lavoro tuo, il C finale sarà profondamente diverso da quello originale, e questo è compatibile con la CDDL

[lollo9]

nella notizia ci sono due problemi diversi impastati come se fossero uno, e non lo sono

il primo è il volume. il collo di bottiglia è il tempo dei revisori, e il costo è asimmetrico: la review la paghi prima di poter dire se la patch valeva qualcosa. non lo risolvi vietando uno strumento che non sai riconoscere, lo risolvi con rate limiting e reputazione. esattamente come si fa da vent’anni con lo spam

il secondo è la provenienza, ed è quello serio. solo che qui viene raccontato al contrario. il rischio non è che l’output violi la licenza di qualcun altro. è che l’output puro di un modello con ogni probabilità non sia coperto da copyright affatto: niente autore, niente diritti, niente da licenziare. e debian sta in piedi su una catena in cui ogni contributo ha un titolare che concede la licenza. codice senza titolare non ci entra, non perché è contaminato ma perché è vuoto
netbsd e openbsd sono arrivate lì prima senza tanta retorica anti-IA o pro-IA

quindi il bando totale è lo strumento sbagliato per entrambi. il volume vuole una strozzatura, la provenienza vuole una dichiarazione. e la dichiarazione esiste già, si chiama DCO, basta estenderla

per inciso: l’articolo ammette nell’ultimo paragrafo che una regola simile sarebbe inapplicabile, e poi tira dritto come se non si fosse appena smontato la notizia da solo

[mmorselli]

Originariamente inviato da lollo9

è che l’output puro di un modello con ogni probabilità non sia coperto da copyright affatto: niente autore, niente diritti, niente da licenziare.

Ma un software prodotto con l'AI un autore ce l'ha, non è che l'AI si sveglia e di sua volontà scrive un software. Se il software nasce dai miei prompt e dalla mia supervisione, l'autore sono io o l'azienda per cui lavoro. Il prompt è solo un altro livello di astrazione nei linguaggi di programmazione.

Codice macchina -> Assembly -> C -> C++ -> Rust -> JavaScript -> Python con tremila librerie caricate che con tre righe di codice fai un programma -> Prompt

Io i miei prompt li preparo tutti con un editor esterno e li salvo nella codebase, per me è codice, da prompt diversi escono software molto diversi.

[leptone]

@mmorselli hai ragione e mi scuso .... Ho fatto un papocchio e quindi come dici tu non ho detto niente (smetterò di postare dal cellulare nei ritagli di tempo)

Invece mi pare che i 2 commenti tuoi e quello di lollo9 sono stati molto più profiqui e ben espressi

Spesso anche per chi legge le news non è facile capire certe cose

Ma purtroppo x la maggior parte delle persone queste cose non sono chiare a differenza vostra

[lollo9]

Originariamente inviato da mmorselli

Ma un software prodotto con l'AI un autore ce l'ha, non è che l'AI si sveglia e di sua volontà scrive un software. Se il software nasce dai miei prompt e dalla mia supervisione, l'autore sono io o l'azienda per cui lavoro. Il prompt è solo un altro livello di astrazione nei linguaggi di programmazione.

Codice macchina -> Assembly -> C -> C++ -> Rust -> JavaScript -> Python con tremila librerie caricate che con tre righe di codice fai un programma -> Prompt

Io i miei prompt li preparo tutti con un editor esterno e li salvo nella codebase, per me è codice, da prompt diversi escono software molto diversi.

capisco che intendi, ed in generale sarei pure d'accordo. un committer umano che firma il commit c'è, ma non basta.

3 cose almeno non sono soddisfatte:

1 il prompt non è un livello di astrazione come gli altri. da C a JS la catena è deterministica e tracciabile: stesso input stesso output, e il compilatore non sceglie niente. il prompt no. non c'è mappatura prompt -> output, quindi non hai controllo sulle scelte espressive del risultato. e il copyright protegge l'espressione, non l'idea. l'ufficio copyright USA lo scrive proprio così: i prompt veicolano idee non tutelabili. che tu li versioni nella codebase non li rende codice, li rende documentazione di come hai chiesto una cosa a qualcun altro

2 anche dandoti ragione sull'autore, la protezione copre il tuo contributo espressivo (selezione, modifica, integrazione) e non l'output grezzo. precedente Zarya of the Dawn: nella stessa opera il testo umano è protetto e le immagini generate no. quindi in un file reale hai due strati con status diverso e nessun modo di distinguerli guardando il diff. e il DCO lo firmi su tutto il file, quindi devi avere titolo su tutto il file.
in soldoni: il principio nasce per evitare che uno copi un'implementazione trovata in giro, tipo su un manuale, senza attribuirla. con gli LLM d'un tratto quel principio si estende a tutta la codebase open del mondo, passata e presente

3 questa è la parte che salta se ragioni da azienda. il copyleft è un hack costruito sopra il copyright: la GPL non è un contratto autonomo, funziona solo perché c'è un diritto esclusivo da concedere. su un frammento senza titolare non c'è niente da concedere. non è che ti fanno causa, è che la clausola non è esigibile. nel tuo prodotto chiuso il problema non lo vedi perché lì ti coprono NDA e segreto industriale, il copyright è decorativo. debian quelle reti non ce le ha, ha solo la catena di custodia

per inciso thaler è chiuso: a marzo la corte suprema USA ha rifiutato di esaminare il ricorso, quindi resta la sentenza che richiede un autore umano. quello che è ancora aperto è quanto contributo umano serva, ed è esattamente lì che ti giochi la partita, non sul "un autore c'è"

P.S.: la giurisprudenza a riguardo è in generale molto giovane ancora. UK ha una legge che esplicitamente va nella direzione che indichi, ma è in fase di abrogazione ed andranno a mettersi in una zona grigia adesso in attesa di una posizione più chiara (ipotizzo io, una posizione da condividere almeno con USA ed EU). USA ed EU al momento non ritengono tutelabile codice da LLM, ma una linea netta dovrà presto esser tracciata per uscire da questo limbo