Red teaming automatico: Anthropic batte i bug bounty in 23 casi su 24
Su 24 coppie domanda-classificatore, il sistema automatico di red-teaming (la simulazione di attacchi per scovare i punti deboli di un sistema di sicurezza) costruito da Anthropic ha pareggiato o battuto la migliore proposta umana. In 23 casi ha vinto. Ci ha messo da 24 a 48 ore, dove i bug bounty (programmi che pagano chi trova falle) richiedono da settimane a mesi. Lo scrive Anthropic nella pagina della Frontier Safety Roadmap, con un aggiornamento datato 19 ottobre 2026.
Come è stato fatto il test
Il confronto è stato fatto sulle stesse 8 domande dei bounty e su 3 generazioni di classificatori in produzione, cioè i filtri che Anthropic usa per bloccare richieste legate ad armi biologiche.
Anthropic giudica i risultati del sistema, nel complesso, più sostanziali di quelli emersi dai bug bounty. Era il criterio per considerare raggiunto l’obiettivo.
Il termine di paragone
Il termine di paragone sono i bug bounty condotti da Anthropic sui propri classificatori per armi biologiche, svoltisi tra il 20 aprile e l’11 settembre 2026.
Tempi, stato dell’obiettivo e limiti dichiarati
L’obiettivo, chiamato «World-class internal red-teaming», aveva come scadenza il 1° gennaio 2027. Anthropic lo dà per completato in anticipo e lo ha tolto dalla roadmap.
Dettagli tecnici del sistema, nomi dei modelli o dei classificatori e risultati per singola coppia non compaiono nella pagina. Anthropic prevede di pubblicare in futuro un post di approfondimento, senza indicare una data.
Anthropic precisa che la roadmap pubblica contiene omissioni deliberate, che servono a proteggere proprietà intellettuale sensibile e a non dare troppe informazioni sulle protezioni attuali ad attori ostili. La versione non oscurata è condivisa con i dipendenti a tempo pieno, il consiglio di amministrazione e il Long-Term Benefit Trust.
