I guardrails di Claude Fable 5 fanno scattare falsi positivi su richieste di codice sicuro e sicurezza informatica

Claude Fable 5 è disponibile da qualche giorno, e nelle ore successive al lancio, la comunità di ricercatori di cybersicurezza e IA ha già sollevato qualche critica abbastanza dura ai guardrail del modello, giudicati eccessivamente aggressivi per l'uso professionale legittimo.

Due meccanismi, due livelli di visibilità

I filtri di Fable 5 operano in modo diverso a seconda della categoria. Quando i classificatori rilevano richieste legate a cybersicurezza o biologia e chimica, la risposta viene automaticamente gestita da Claude Opus 4.8 e l'utente ne viene informato. Per la ricerca IA frontier e la distillazione di modelli, il downgrade avviene in silenzio, senza alcuna notifica all'utente. Anthropic stima che questa seconda restrizione colpisca circa lo 0,03% del traffico.

Il modello Mythos-class, durante i test condotti nell'ambito di Project Glasswing, aveva identificato oltre 23.000 vulnerabilità critiche nelle principali repository di codice. Secondo Anthropic, i guardrail su cybersicurezza si sono dimostrati più robusti di qualsiasi altro modello testato internamente, inclusi Opus 4.8 e Opus 4.7. Il prezzo di accesso è di $10 per milione di token in input e $50 in output.

Falsi positivi e accuse di disparità

Le critiche dei ricercatori si concentrano sulla granularità dei filtri. Valentina Palmiotti, ricercatrice di sicurezza presso IBM X-Force, ha scritto su X che Fable 5 "rifiuta qualsiasi richiesta che possa essere anche tangenzialmente legata al cyber. Persino compiti innocui come leggere un post su un blog". Matt Suiche, veterano del settore e membro di Tolmo, ha aggiunto: "Sembra basarsi su parole chiave: qualsiasi cosa nel campo lessicale di 'cybersicurezza' fa scattare i guardrails".

Le critiche più dure riguardano il downgrade silenzioso per ricerca IA. Come riporta anche Fortune, Nathan Lambert, che ha recentemente guidato lavori presso AI2, ha definito la pratica "inaccettabile" e Anthropic "contraria alla scienza, e quindi al progresso e alla sicurezza". Jeremy Howard, capo del nonprofit Fast AI, ha puntato il dito sulla disparità tra ricercatori interni ed esterni: "Hanno detto che saboteranno chiunque ci provi. Questo significa che la frontiera IA avanza e il divario di potere aumenta". Dean Ball, senior fellow presso Foundation for American Innovation e già consulente OSTP della Casa Bianca, ha coniato l'etichetta "sabotaggio segreto" per le restrizioni invisibili. Behnam Neyshabur, già co-responsabile dello sforzo di Anthropic per sviluppare uno scienziato IA, ha scritto che "concentrare queste capacità rallenta in modo fondamentale il progresso scientifico e tecnologico ed è un impatto netto negativo per l'umanità".

Anche Andrej Karpathy, entrato in Anthropic il mese scorso, ha riconosciuto che i guardrails sono configurati per essere "un po' troppo reattivi per il lancio", pur definendo Fable 5 un rilascio molto interessante.

Anthropic ha risposto ammettendo che i filtri sono "deliberatamente calibrati per essere conservativi" e restano "ancora più rigidi di quanto sarebbe ideale", con l'impegno a "restringerli il prima possibile". Dianne Na Penn, responsabile di product management e ricerca, ha riconosciuto che alcune richieste benigne verranno inizialmente bloccate. Il rilascio avviene a una settimana dal presentazione riservata alla SEC della documentazione per un IPO.