Amodei: Anthropic non ha mai chiesto il divieto dei modelli aperti

Anthropic non ha mai chiesto la messa al bando dei modelli a pesi aperti. Lo mette per iscritto Dario Amodei in un intervento sul sito dell'azienda che fissa la posizione formale del laboratorio, dopo giorni di discussione sul tema e dopo le indiscrezioni secondo cui alcuni funzionari statunitensi starebbero valutando di vietare alle aziende americane l'uso dei modelli cinesi a pesi aperti. "Chiunque abbia letto i miei scritti passati dovrebbe sapere che non considero simili divieti una misura utile", scrive il fondatore e amministratore delegato, "ma lasciatemelo dire chiaramente, così che non ci sia alcun dubbio: Anthropic non ha mai sostenuto un divieto sui modelli a pesi aperti".

L'intervento arriva dopo la lettera aperta con cui Nvidia e decine di aziende del settore hanno chiesto ai decisori politici di non imporre restrizioni premature ai modelli a pesi aperti, e dopo che ad Anthropic era stato imputato di volere quel divieto per proteggere il proprio business. Amodei ne rivendica il valore: "I modelli a pesi aperti che non hanno capacità pericolose sono un bene pubblico: non costano nulla oltre alla potenza di calcolo necessaria per eseguirli, e offrono valore ad aziende, sviluppatori e ricercatori".

Governi autoritari e attacchi biologici

Le preoccupazioni di sicurezza nazionale sono due, entrambe già esposte sei mesi fa nel saggio The Adolescence of Technology. La prima è che governi autoritari costruiscano modelli più potenti di quelli statunitensi e li usino per ottenere una superiorità militare permanente o per reprimere in profondità le proprie popolazioni: il Partito Comunista Cinese viene indicato come la minaccia più capace, non come l'unica. In questo scenario, scrive Amodei, è irrilevante che i modelli escano con i pesi aperti, ed è ancora più irrilevante che li usino aziende statunitensi; il modello più pericoloso potrebbe essere quello addestrato in segreto e consegnato soltanto all'Esercito Popolare di Liberazione per i droni e al Ministero della Sicurezza dello Stato per la sorveglianza.

A sostegno cita il vicepresidente Vance, che a Parigi l'anno scorso ha avvertito che "i regimi autoritari hanno rubato e usato l'IA per rafforzare le proprie capacità militari, di intelligence e di sorveglianza", e la valutazione annuale delle minacce 2026 della comunità di intelligence statunitense, secondo cui i solidi progressi di altre potenze globali nell'IA stanno mettendo in discussione la competitività economica e i vantaggi di sicurezza nazionale degli Stati Uniti.

La seconda preoccupazione riguarda l'uso improprio di modelli potenti per attacchi informatici o biologici, insieme ai problemi di allineamento. Qui Amodei riconosce che i modelli a pesi aperti, quale che sia il paese di provenienza, presentano potenzialmente un rischio più alto di quelli chiusi, perché è molto difficile applicarvi barriere di sicurezza o monitorarne l'uso e perché una volta rilasciati i pesi non possono più essere ritirati. Vietarne l'uso alle imprese statunitensi, però, non affronta il problema, dato che chi ha intenzioni malevole difficilmente è un'azienda americana legittima: una misura del genere "proteggerebbe le aziende di IA statunitensi dalla concorrenza, ma non è mai stato il mio obiettivo".

Difensori e attaccanti

Amodei condivide buona parte della lettera aperta, dai pesi aperti che allargano l'accesso all'economia dell'IA alla concorrenza rafforzata almeno per alcuni casi d'uso, fino al maggiore controllo lasciato ai clienti, ma respinge due delle sue assunzioni: che i pesi aperti rendano necessariamente più facile costruire salvaguardie, e che l'accesso ampio alle capacità favorisca i difensori più degli attaccanti. Il suo esempio è la biologia, dove teme un'asimmetria marcata a favore di chi attacca: modelli sufficientemente capaci potrebbero rendere rapidamente utilizzabile come arma un virus di livello pandemico partendo da materiali ampiamente disponibili, mentre la difesa da agenti simili resta nel migliore dei casi un lavoro operativo di anni, come ha mostrato Operation Warp Speed.

Chip, distillazione e test obbligatori

Amodei afferma di condividere l'impostazione di tre principi. Il primo riguarda i chip: niente vendita alla Cina di semiconduttori potenti e di macchinari per produrli, con una stretta su contrabbando e aggiramenti oggi diffusi. Il ragionamento poggia sulle leggi di scala: con una capacità produttiva interna limitata, senza chip statunitensi Pechino non può costruire modelli più potenti di quelli americani. È la via più diretta per bloccare il primo scenario e, rendendo più difficile l'addestramento di modelli fuori dalla portata della legge statunitense, aiuta indirettamente anche sul secondo.

Il secondo è un giro di vite sulle operazioni di distillazione su scala industriale, il procedimento con cui un modello viene bombardato di richieste per apprenderne il funzionamento a un costo di calcolo molto inferiore rispetto all'addestramento da zero. Secondo Amodei la distillazione consente alla Cina di costruire modelli molto migliori di quanto il suo parco chip permetterebbe, aggirando in parte i divieti sui semiconduttori, e di portare la frontiera cinese a pochi mesi da quella statunitense, senza però arrivare a capacità equivalenti o superiori. Molte delle aziende che le praticano rilasciano modelli a pesi aperti, osserva, ma il rilascio dei pesi conta assai meno del fatto che dietro quelle operazioni ci sia uno stato autoritario che punta a superare gli Stati Uniti alla frontiera.

Il terzo è il test di sicurezza obbligatorio per tutti i modelli sufficientemente capaci, aperti e chiusi, con esenzione piena per quelli meno capaci di startup e mondo accademico. Amodei la descrive come un'idea vicina al consenso e si dice incoraggiato sia dalle mosse dell'amministrazione Trump degli ultimi mesi, sia dalle proposte dell'industria che applicherebbero i test ai modelli più capaci a prescindere dal paese di origine. Perché sia efficace, però, il regime dovrebbe essere globale, quindi anche il Partito Comunista Cinese dovrebbe accettarlo: cosa che Amodei ritiene possibile, dato che una cooperazione limitata sulla prevenzione delle armi biologiche è anche nell'interesse di Pechino.

Se i modelli aperti comportino davvero un rischio maggiore, e se quel rischio sia mitigabile, per Amodei è una risposta che deve emergere dai test invece di essere decisa in anticipo. Su questo fronte l'intervento rimanda a una ricerca recente di Anthropic sulle strategie di addestramento modulare, indicata come possibile via per migliorare la sicurezza dei modelli a pesi aperti a valle del rilascio.