I matematici contro i big dell'IA: basta addestrare i modelli sui nostri lavori senza consenso

All'inizio della settimana la comunità matematica internazionale ha reso pubblica la Dichiarazione di Leiden sull'intelligenza artificiale e la matematica, un documento che chiede ai ricercatori di confrontarsi con il modo in cui le aziende di IA usano il lavoro matematico pubblicato. Il testo è approvato dall'Unione Matematica Internazionale (IMU), l'organismo che assegna la medaglia Fields, e porta tra i firmatari Peter Scholze, medaglia Fields e direttore del Max Planck Institute for Mathematics.

La Dichiarazione contesta il modo in cui le aziende trattano il materiale della disciplina: l'addestramento dei modelli su articoli pubblicati senza consenso, gli annunci affidati a comunicati stampa anziché alla revisione paritaria, le attribuzioni che non vengono effettuate. "La matematica è, e dovrebbe sempre restare, un'impresa profondamente umana", ha dichiarato Ulrike Tillmann, vicepresidente dell'IMU.

Il documento arriva circa due settimane dopo l'annuncio con cui OpenAI ha rivendicato la confutazione di una congettura di geometria formulata da Erdos nel 1946, risultato di cui ci siamo già occupati. La Dichiarazione cita proprio i casi in cui i risultati vengono comunicati "su tempistiche di mercato, prima che i normali processi di valutazione della comunita possano svolgersi", e richiama AlphaProof di Google DeepMind, che nel 2024 risolse tre problemi delle Olimpiadi Internazionali della Matematica ma impiegò oltre un anno a pubblicarne i metodi in una sede con revisione paritaria.

I cinque rischi individuati

Il documento elenca cinque minacce ai valori che rendono affidabile la matematica. La prima è la produzione di argomentazioni plausibili ma inaffidabili, difficili da distinguere dalle dimostrazioni corrette. "Le bozze inesatte generate dall'IA costano poco da produrre, e c'è il rischio di intasare la letteratura con risultati semplicemente sbagliati", ha osservato Leslie Ann Goldberg, a capo dell'informatica all'Universita di Oxford. "Una volta che accade, è probabile che gli errori si propaghino man mano che nuovi risultati vengono costruiti su fondamenta difettose."

La seconda minaccia è la mancata attribuzione: i modelli addestrati su lavori pubblicati restituiscono spesso risultati senza citare le fonti umane che sintetizzano, e parte dei dati di addestramento è stata ottenuta "sfruttando licenze e accordi di accesso" oppure "violando semplicemente le tutele del diritto d'autore". Seguono la dipendenza dalle tecnologie proprietarie e dalle costose risorse di calcolo, che approfondisce la disuguaglianza tra ricercatori; la sovraesposizione mediatica dei risultati, comunicati prima di ogni verifica scientifica; e la perdita di autonomia, quando sono la fattibilità tecnica o gli interessi commerciali a orientare le domande di ricerca.

Le raccomandazioni, dai singoli ai governi

Le indicazioni sono articolate su piu livelli. Al singolo ricercatore la Dichiarazione chiede di dichiarare l'uso degli strumenti di IA, di mantenere la responsabilità sulla correttezza dei propri risultati, di continuare ad attribuire il lavoro agli autori umani e di non riconoscere lo status di autore a un sistema automatico. Alle organizzazioni di categoria spetta sviluppare accordi di licenza che impediscano l'uso dei lavori come dati di addestramento senza consenso e difendere il ruolo delle pubblicazioni con revisione paritaria.

Per chi governa il tono è netto: "non credete all'hype", scrivono gli autori, perché "esiste oggi un forte incentivo commerciale, da parte dell'industria tecnologica, a sopravvalutare le capacità dei propri prodotti". Da qui la richiesta di regolamentare il settore e di investire in infrastrutture di calcolo pubbliche come alternativa ai sistemi proprietari. Il documento ricorda inoltre che la matematica ha applicazioni nello sviluppo di tecnologie per "la guerra, l'oppressione, la sorveglianza di massa e l'indebolimento della democrazia", e invita a pesarne le implicazioni etiche prima di accettare collaborazioni con il settore.

La Dichiarazione è stata redatta nell'arco di otto mesi da un gruppo di lavoro di 16 autori di quindici università, a valle del workshop ospitato dal Lorentz Center di Leida nel settembre 2025, ed e ora aperta alle adesioni del resto della comunità matematica.