Anthropic dà a sei valutatori di METR un accesso da dipendenti
Anthropic ha iniziato a dare un accesso «employee-like», cioè simile a quello dei propri dipendenti, a un team di METR, organizzazione non profit che valuta i modelli di IA di frontiera. Lo spiega l’annuncio ufficiale pubblicato dall’azienda il 15 ottobre 2026. METR pubblicherà i risultati delle proprie valutazioni di rischio e l’azienda non potrà bloccarne la pubblicazione.
Cosa ottiene METR dentro Anthropic
Secondo Anthropic sono stati inseriti sei dipendenti di METR, con hardware aziendale, spazio in ufficio e accesso a strumenti e sistemi interni più o meno pari a quello dei team interni che valutano il rischio. Nell’ultimo anno le due organizzazioni avevano già lavorato insieme su diverse revisioni dei Risk Report di Anthropic.
Fuori da poche categorie, i dipendenti Anthropic sono incoraggiati a condividere informazioni con loro come con un collega che lavora sul rischio di allineamento. Le eccezioni sono:
- i dati sui clienti;
- le informazioni coperte da segreto professionale legale;
- le informazioni sulle architetture dei modelli.
Per le architetture, spiega l’azienda, il rischio di fughe involontarie è alto e la rilevanza per la valutazione del rischio di solito bassa, anche perché questi valutatori, come gli ispettori bancari, possono lavorare con altre società. Se l’informazione è molto rilevante Anthropic cerca in genere di condividerla, con approvazioni interne esplicite.
L’impegno è limitato a un piccolo team con accordi vincolanti. Gli altri dipendenti di METR, compresi i ricercatori che collaborano con Anthropic ad altri progetti, restano isolati dal lavoro di quel gruppo.
Pubblicare senza veto, ma con parti oscurate
METR pubblicherà le sue analisi su livelli di rischio, incidenti o pratiche di Anthropic. L’azienda non può opporsi, ma può chiedere di oscurare informazioni in categorie ristrette stabilite in anticipo, come quelle sopra.
METR è libera di descrivere pubblicamente le parti oscurate e di dire se le ritiene giustificate, purché non riveli i contenuti rimossi.
Perché Anthropic apre i sistemi a terzi
A settembre Anthropic si era impegnata a una valutazione più forte da parte di terzi indipendenti e aveva firmato il White House Accord on Super Intelligence, in cui le aziende promettono di collaborare con auditor o valutatori esterni indipendenti.
L’azienda sostiene di non poter rendere pubblico tutto ciò che riguarda la sicurezza: parte delle informazioni potrebbe servire a malintenzionati, parte è commercialmente sensibile, come i dati su calcolo e addestramento. La soluzione è dare ai valutatori un accesso profondo, perché condividano prove e conclusioni motivate sui rischi. L’obiettivo dichiarato è ridurre il divario tra ciò che i valutatori capiscono dei sistemi di un’azienda di frontiera e ciò che ne capisce l’azienda stessa.
Anthropic accosta il modello alla vigilanza bancaria, dove gli ispettori lavorano dentro le banche maggiori, precisando però che l’analogia non è esatta.
I tre livelli di accesso per i valutatori
Le altre collaborazioni sono ancora in fase iniziale, quindi quei valutatori ricevono meno informazioni e hanno diritti di pubblicazione più limitati. Lo scopo è verificare che proteggano le informazioni riservate e abbiano risorse e competenze adeguate; con la fiducia, Anthropic spera di integrare più valutatori. L’azienda sta sviluppando tre livelli:
| Livello | Accesso | Pubblicazione |
|---|---|---|
| 1 | Indagini sul rischio a perimetro stretto; Anthropic decide l’accesso | Con l’approvazione di Anthropic |
| 2 | Più informazioni | Senza approvazione; Anthropic può chiedere la rimozione di categorie specifiche, il valutatore può dire se era giustificata |
| 3 | Accesso da dipendente (il caso di METR) | Diritti simili al livello 2 |
SecureBio, Accenture, Faculty e le altre organizzazioni
SecureBio è al primo livello. Sta rivedendo il capitolo su armi chimiche e biologiche del Risk Report di agosto, dopo aver completato e pubblicato una revisione pilota del rapporto precedente. Concluso il lavoro, Anthropic valuterà progetti con più accesso e più diritti di pubblicazione.
Con Accenture e Faculty l’azienda lavora a una partnership che comprende valutazione e red-teaming dei modelli, valutazioni di allineamento, test delle salvaguardie e sviluppo di competenze. Anthropic è inoltre in discussioni iniziali con altre organizzazioni, tra cui Hugging Face.
L’azienda definisce l’inserimento dei valutatori volontario e scrive di ritenere che ogni azienda di IA di frontiera dovrebbe fare lo stesso. Spera di avere nel tempo più valutatori al terzo livello, ciascuno con la propria analisi sul profilo di rischio e sulle decisioni chiave.
Come si colloca rispetto a Google
Per Gemini 4 Argon, il 13 ottobre Google ha pubblicato sul proprio blog un Safety and Security Report e una model card. Ne avevamo scritto in Google protegge Gemini 4 Argon da abusi cyber e biologici.
