Quattro premi Nobel alzano la voce contro OpenAI: la gente deve sapere

Quattro premi Nobel hanno unito le forze per richiedere una maggiore trasparenza a OpenAI riguardo alla ristrutturazione aziendale attualmente in corso. Geoffrey Hinton, Giorgio Parisi, Oliver Hart e Sheldon Lee Glashow hanno firmato una lettera aperta che punta il dito nei confronti della governance futura dell'azienda che ha sviluppato ChatGPT e si appresta a lanciare GPT-5.

La lettera, pubblicata su openai-transparency.org e firmata da oltre 2.900 persone, esprime preoccupazioni concrete sulla direzione che sta prendendo OpenAI dopo la sua fondazione come organizzazione no-profit nel 2015. I firmatari includono anche ex dipendenti di OpenAI come Daniel Kokotajlo, Girish Sastry, Gretchen Krueger e Helen Toner, oltre a personalità di rilievo come Vitalik Buterin, co-fondatore di Ethereum, e ricercatori accademici di prestigiose università.

Le sette domande cruciali alla leadership di OpenAI, da parte dei premi Nobel

Il documento presenta sette domande specifiche che richiedono risposte chiare da parte della leadership di OpenAI. Le questioni toccano aspetti fondamentali della struttura aziendale e degli impegni legali verso il pubblico, e le abbiamo tradotte liberamente qui di seguito:

1. OpenAI manterrà il dovere legale di dare priorità alla sua missione di beneficenza rispetto ai profitti?
2. L'organizzazione no-profit di OpenAI continuerà ad avere il pieno controllo della gestione aziendale?
3. Quali degli amministratori senza scopo di lucro riceveranno azioni nella nuova struttura di OpenAI?
4. OpenAI manterrà i limiti di profitto esistenti e rispetterà l'impegno a dedicare i profitti eccedenti a beneficio dell'umanità?
5. OpenAI prevede di commercializzare l'intelligenza artificiale generale (AGI) una volta sviluppata, invece di mantenere il controllo no-profit a beneficio dell'umanità?
6. OpenAI si impegnerà nuovamente a rispettare i principi del suo Statuto, incluso l'impegno a cessare la competizione e assistere altre organizzazioni responsabili che si avvicinano all'AGI?
7. OpenAI rilascerà i documenti chiave della ristrutturazione? Specificamente, la lettera richiede:
   1. L'accordo operativo di OpenAI Global, LLC, che stabilisce i doveri verso la missione benefica e i poteri conferiti all'organizzazione no-profit
   2. Tutte le stime del valore potenziale degli utili superiori ai limiti stabiliti, comprese le stime condivise con gli investitori

Ma perché questa lettera? OpenAI fu fondata nel 2015 come organizzazione no-profit con la missione esplicita di garantire che l'intelligenza artificiale generale apporti benefici a tutta l'umanità. Nel 2019, per raccogliere capitali necessari allo sviluppo, l'azienda creò filiali a scopo di lucro mantenendo però il controllo sotto la casa madre no-profit. Le salvaguardie implementate in quella fase includevano diversi meccanismi di protezione, con la supervisione che rimaneva nelle mani del consiglio di amministrazione dell'organizzazione no-profit, mentre i profitti degli investitori erano limitati inizialmente a 100 volte l'investimento, con gli eccessi destinati all'organizzazione no-profit.

Il consiglio doveva mantenere una maggioranza di membri indipendenti per evitare conflitti di interesse, e tutte le decisioni dovevano dare priorità alla missione benefica rispetto agli interessi commerciali. Tutti gli investitori e dipendenti erano tenuti a firmare accordi che stabilivano la precedenza degli obblighi verso la Carta dell'organizzazione, anche a scapito dei loro interessi finanziari. La lettera evidenzia come la ristrutturazione attualmente proposta rischi di indebolire o eliminare molte di queste protezioni.

Sam Altman, CEO di OpenAI

I firmatari della lettera esprimono dubbi basandosi su episodi passati che, secondo loro, mostrano una tendenza di OpenAI a modificare silenziosamente impegni fondamentali. La lettera cita diversi esempi per cui è legittimo avere dubbi sulla trasparenza dell'azienda: ad esempio, nel 2023 è emerso che i limiti sui profitti degli investitori, inizialmente fissati a 100 volte l'investimento, sarebbero aumentati del 20% annuo a partire dal 2025. Entro quarant'anni, calcola la lettera, un limite di 100 miliardi di dollari sui rendimenti diventerebbe 100 trilioni di dollari, superando l'intera economia globale attuale. Il pubblico ne è venuto a conoscenza solo attraverso il giornalismo investigativo, non tramite comunicazioni ufficiali di OpenAI.

Gli ex dipendenti, inoltre, hanno dovuto affrontare accordi di non divulgazione e non denigrazione particolarmente restrittivi, che minacciavano la perdita del capitale acquisito in caso di rifiuto o successive critiche all'azienda. La lettera sostiene che tali pratiche potrebbero aver interferito con la segnalazione federale dei rischi per la sicurezza. Riguardo alle promesse di sicurezza, nel 2023 OpenAI si è impegnata a dedicare il 20% delle risorse computazionali al suo team di ricerca sulla sicurezza dell'IA. Secondo l'ex capo del team Jan Leike e altre fonti, queste risorse non sono state effettivamente allocate. Infine, una violazione della sicurezza del 2023 non è stata comunicata alle autorità rimanendo nascosta per oltre un anno.

La ristrutturazione attualmente in discussione prevede la transizione da un modello ibrido profit/no-profit a una società di pubblica utilità più convenzionale. OpenAI ha ammesso che i nuovi piani arrivano per volere degli investitori, proprio la pressione che la struttura no-profit originaria era stata progettata per evitare.

Secondo l'analisi presentata nella lettera, diversi elementi fondamentali sono a rischio. Il controllo dell'organizzazione no-profit potrebbe essere significativamente ridotto: attualmente ha supervisione manageriale totale su tutte le attività, ma nella nuova struttura potrebbe mantenere solo il diritto di nominare e licenziare amministratori per l'organizzazione a scopo di lucro. I limiti sui profitti degli investitori potrebbero essere completamente rimossi, con la possibilità che tale rimozione sia retroattiva per gli investitori esistenti, trasferendo potenziali profitti che attualmente appartengono all'umanità in mani private. La governance dell'AGI rappresenta un altro punto critico: attualmente gli investitori come Microsoft non hanno diritti sulle tecnologie AGI, che dovrebbero rimanere sotto controllo no-profit a beneficio dell'umanità. La Carta di OpenAI, che include l'impegno a cessare la competizione e assistere organizzazioni allineate alla missione vicine alla costruzione di AGI, potrebbe perdere il suo status legalmente vincolante. L'indipendenza del consiglio di amministrazione no-profit è anch'essa in discussione, dato che non è chiaro se alcuni amministratori, incluso Sam Altman, trarranno vantaggio finanziario dalla ristrutturazione.

Uno dei tanti elementi della controversia riguarda anche l'accordo operativo LLC di OpenAI, il documento legale interno che regola effettivamente il funzionamento delle filiali a scopo di lucro. Tale accordo, mantenuto riservato, contiene presumibilmente le reali garanzie che dovrebbero proteggere gli interessi dell'umanità e specificherebbe quanto controllo ha effettivamente l'organizzazione no-profit, quale influenza hanno gli investitori sulle decisioni chiave, come vengono applicati legalmente gli impegni legati alla missione, i veri termini dei limiti di profitto e i meccanismi di distribuzione, oltre alle strutture di governance e ai diritti di voto.

La lettera argomenta che, sebbene le aziende private mantengano generalmente riservati tali accordi, le filiali di OpenAI sono diverse perché controllate da un'organizzazione no-profit che esiste a beneficio dell'umanità. Gli accordi operativi rappresentano il meccanismo attraverso cui vengono concretizzate le promesse di OpenAI al pubblico. La lettera sottolinea infine come la posta in gioco si estenda ben oltre OpenAI stessa: man mano che l'intelligenza artificiale diventa sempre più potente, i precedenti stabiliti oggi influenzeranno il modo in cui lo sviluppo dell'IA procederà a livello globale. Se le organizzazioni che affermano di servire l'umanità possono operare in segretezza, la responsabilità pubblica rischia di perdere significato. L'appendice a margine del documento conclude con un appello alla responsabilità democratica, in cui dovrebbe essere il popolo a decidere su queste questioni e non una società con finalità di lucro.