Anthropic rifiuta l'ultimatum del Pentagono: no a sorveglianza di massa e armi autonome

Si intensifica il confronto tra Anthropic e il Pentagono sull'impiego dei modelli di intelligenza artificiale in ambito militare. L'amministratore delegato Dario Amodei ha dichiarato che la società "non può in buona coscienza" accettare che i propri sistemi vengano utilizzati per "tutti gli usi leciti" senza limitazioni, come richiesto dal Dipartimento della Difesa statunitense.

Amodei ha tuttavia ribadito la centralità strategica del contributo dell'AI alla sicurezza nazionale: "Credo profondamente nell'importanza esistenziale dell'uso dell'intelligenza artificiale per difendere gli Stati Uniti e le altre democrazie e per sconfiggere i nostri avversari autocratici".

Dario Amodei, CEO di Anthropic

In questa prospettiva, ha ricordato come Anthropic sia stata "la prima azienda all'avanguardia nel campo dell'intelligenza artificiale ad aver implementato i propri modelli nelle reti riservate del governo degli Stati Uniti, la prima ad averli implementati nei Laboratori Nazionali e la prima a fornire modelli personalizzati per i clienti nel settore della sicurezza nazionale", con Claude oggi "ampiamente implementato in tutto il Dipartimento della Guerra e in altre agenzie di sicurezza nazionale per applicazioni mission-critical, quali analisi di intelligence, modellizzazione e simulazione, pianificazione operativa, operazioni informatiche e altro ancora".

La società sottolinea anche di aver assunto decisioni penalizzanti sul piano economico pur di tutelare la leadership statunitense nell'AI: "Abbiamo scelto di rinunciare a diverse centinaia di milioni di dollari di entrate per impedire l'uso di Claude da parte di aziende legate al Partito Comunista Cinese (...) abbiamo bloccato gli attacchi informatici sponsorizzati dal PCC che tentavano di abusare di Claude e abbiamo sostenuto forti controlli sulle esportazioni di chip per garantire un vantaggio democratico".

Al centro della disputa vi sono due ambiti specifici che Anthropic non intende includere nei contratti: la sorveglianza domestica di massa e le armi completamente autonome. "In una ristretta serie di casi, riteniamo che l'intelligenza artificiale possa minare, anziché difendere, i valori democratici", afferma Amodei, precisando che alcuni impieghi "sono semplicemente al di fuori dei limiti di ciò che la tecnologia odierna può fare in modo sicuro e affidabile".

Sul primo punto, la posizione è netta: "La sorveglianza di massa sul territorio nazionale (...) è incompatibile con i valori democratici". Pur dichiarando supporto alle attività di intelligence e controintelligence estera nel rispetto della legge, Amodei evidenzia i rischi legati alla capacità dei sistemi di AI di aggregare su larga scala dati pubblicamente disponibili, ricostruendo in modo automatizzato e dettagliato la vita di un individuo.

Per quanto riguarda le armi autonome, il CEO distingue tra sistemi parzialmente autonomi - già utilizzati in teatri come l'Ucraina - e soluzioni completamente autonome, che "eliminare completamente gli esseri umani dal processo". Secondo Amodei, "oggi, i sistemi di intelligenza artificiale di frontiera non sono sufficientemente affidabili per alimentare armi completamente autonome. Non forniremo consapevolmente un prodotto che metta a rischio i soldati e i civili americani".  Anthropic afferma di aver proposto al Dipartimento di collaborare su attività di ricerca e sviluppo per migliorarne l'affidabilità, ma l'offerta non è stata accolta.

Il segretario alla Difesa Pete Hegseth ha imposto alla società un ultimatum con scadenza alle 17:01 (ora di Washington), chiedendo l'autorizzazione all'uso dei modelli, incluso Claude Gov - versione abilitata per ambienti classificati - per qualunque finalità consentita dalla legge. Il Dipartimento ha dichiarato che contratterà solo con aziende disposte ad accettare "qualsiasi uso legittimo" e a rimuovere le salvaguardie sopra menzionate.

In caso di rifiuto, il Pentagono ha minacciato la risoluzione dei contratti e la designazione di Anthropic come "supply chain risk", oltre al possibile ricorso al Defense Production Act per imporre la rimozione delle limitazioni. Amodei osserva una contraddizione in queste posizioni: da un lato l'azienda verrebbe etichettata come rischio per la sicurezza, dall'altro il suo prodotto verrebbe considerato essenziale per la stessa sicurezza nazionale.

"Indipendentemente da ciò, queste minacce non cambiano la nostra posizione: non possiamo in buona coscienza accogliere la loro richiesta", ribadisce il CEO, sottolineando che "Anthropic è consapevole che le decisioni militari vengono prese dal Dipartimento della Guerra, non dalle aziende private", e che l'azienda non ha mai tentato di limitare operazioni militari specifiche in modo arbitrario.

Il segretario alla Difesa Pete Hegseth

Anthropic aveva firmato a luglio un contratto da 200 milioni di dollari con il Dipartimento della Difesa, diventando il primo laboratorio di AI a integrare i propri modelli nei flussi di lavoro su reti classificate. Altre realtà del settore, tra cui OpenAI, Google e xAI, hanno ottenuto contratti analoghi e accettato l'uso dei propri modelli per tutti gli impieghi leciti richiesti dal Dipartimento.

"È prerogativa del Dipartimento selezionare gli appaltatori più in linea con la propria visione. Tuttavia, dato il notevole valore che la tecnologia di Anthropic offre alle nostre forze armate, speriamo che riconsiderino la loro decisione", conclude Amodei. La preferenza della società resta quella di continuare a collaborare "con le due misure di salvaguardia da noi richieste in vigore". In caso contrario, Anthropic si dichiara pronta a garantire una transizione ordinata verso un altro fornitore, evitando impatti su pianificazione e operazioni in corso, ribadendo infine: "Siamo pronti a continuare il nostro lavoro a sostegno della sicurezza nazionale degli Stati Uniti".