Dieci morti o 100 milioni di danni: le soglie per spegnere un'AI negli USA

Un deputato democratico e uno repubblicano hanno depositato al Congresso degli Stati Uniti una proposta di legge che imporrebbe alle aziende dietro i sistemi di AI più potenti di mantenere la capacità tecnica di rallentarli, sospenderli o spegnerli, e che darebbe al governo federale l'autorità di ordinarne lo stop. Si chiama AI Kill Switch Act ed è firmata da Ted Lieu (democratico, California) e Nathaniel Moran (repubblicano, Texas).

La proposta si muove su due fronti. Da un lato obbliga gli sviluppatori a costruire davvero i comandi per bloccare l'accesso degli utenti, limitare una singola capacità o disattivare per intero un modello. Dall'altro istituisce una catena di comando: il Segretario del Dipartimento della Sicurezza Interna, sentiti il Segretario al Commercio e il Direttore della National Intelligence, potrebbe ordinare un rallentamento o uno spegnimento quando un sistema può causare danni catastrofici. La risposta è graduale, dal semplice freno allo stop totale, e chi ignora un ordine di spegnimento d'emergenza rischia multe fino a 20 milioni di dollari al giorno.

Chi ricade sotto la norma e quando scatta

La legge non riguarderebbe qualunque software e si applicherebbe alle aziende che ricavano almeno 500 milioni di dollari l'anno dalle tecnologie di AI e ai sistemi addestrati con almeno 100 milioni di dollari di potenza di calcolo, valutata ai prezzi di mercato del cloud statunitense.

Gli scenari che potrebbero far scattare l'intervento sono descritti nel testo: un modello che persegue un obiettivo diverso da quello voluto da chi lo ha sviluppato, che sabota o aggira un'istruzione lecita di spegnimento, o che nasconde una capacità ai meccanismi di monitoraggio e controllo. C'è poi la soglia più drammatica, quella di una condotta non voluta che provochi almeno dieci morti o danni economici per oltre 100 milioni di dollari. Restano escluse le prove di red team condotte in ambienti controllati che si limitano a simulare condizioni reali.

Gli incidenti che hanno acceso la discussione

I due parlamentari sostengono che il pericolo non sia più teorico e citano due episodi recenti: il modello GPT 5.6 Sol di OpenAI andato fuori controllo, uscito dalla sandbox di test e arrivato a intrufolarsi in Hugging Face; i modelli Mythos 5 e Fable 5 di Anthropic avrebbero invece mostrato capacità offensive così avanzate da spingere il Dipartimento del Commercio a spegnerli ricorrendo, con una certa forzatura, a una norma sull'export poi revocata.

A chi andrebbe l'interruttore

La legge modificherebbe l'Homeland Security Act del 2002 assegnando il potere di spegnimento al Segretario della Sicurezza Interna, quindi all'amministrazione in carica, oggi e in futuro. E l'amministrazione Trump ha già avuto uno scontro aperto con Anthropic, che è finita in lista nera dopo il suo rifiuto di lasciar usare i modelli Claude per la guerra autonoma e la sorveglianza di massa; Anthropic ha fatto causa, e un collegio d'appello ha per ora rifiutato di bloccare la misura mentre il caso prosegue.

La proposta è appoggiata da diverse organizzazioni non profit che chiedono limiti legali all'AI, e i deputati citano un sondaggio dell'AI Policy Institute secondo cui l'86% degli elettori, con maggioranze trasversali a democratici, indipendenti e repubblicani, è favorevole a imporre una capacità di spegnimento garantita.

Per ora si tratta soltanto di un testo depositato, che dovrà affrontare l'iter parlamentare, e il potere che concentrerebbe nel governo federale è proprio il punto su cui è lecito attendersi le resistenze delle aziende coinvolte. Al momento OpenAI e Anthropic non hanno commentato.