Anthropic dá a seis avaliadores da METR acesso de nível de funcionário

A Anthropic deu a seis pesquisadores da METR, uma organização sem fins lucrativos que testa modelos avançados de IA, mais ou menos o mesmo acesso a seus sistemas que suas próprias equipes de risco têm. Ela anunciou a medida em 15 de outubro de 2026. A Anthropic também abriu mão do direito de bloquear o que a METR publica sobre seus riscos, incidentes e práticas de segurança. A METR é o único grupo no nível mais alto do novo sistema da Anthropic para avaliadores externos.

O que a METR recebe

"Integramos seis funcionários da METR, com hardware da empresa, espaço de escritório e acesso a ferramentas e sistemas internos", escreveu a Anthropic. O acesso é mais ou menos comparável ao que suas próprias equipes de avaliação de risco usam, diz a empresa.

A METR vai publicar suas próprias avaliações. A Anthropic não pode vetá-las, mas pode exigir que trechos sejam ocultados em categorias restritas. O TechCrunch lista essas categorias como dados de clientes, material protegido por sigilo e detalhes da arquitetura do modelo. O post da Anthropic acrescenta que "a METR é livre para descrever publicamente nossas ocultações". Em outras palavras, os leitores vão saber quando algo foi retido, mesmo que não possam vê-lo.

Três níveis de acesso externo

A Anthropic agora organiza seus avaliadores externos em três níveis, segundo seu post e o TechCrunch. Cada nível acrescenta liberdade ou acesso:

Nível	Quem está nele	O que permite
1	SecureBio, uma organização sem fins lucrativos de biossegurança	Publicar exige aprovação da Anthropic
2	Não nomeado	Publicar sem aprovação da Anthropic
3	METR, o único grupo até agora	Publicação livre mais acesso de nível de funcionário

A SecureBio está revisando o capítulo sobre armas químicas e biológicas do Risk Report de agosto da Anthropic. A Anthropic diz que também trabalha com a Accenture e sua unidade de IA, a Faculty, em uma parceria mais ampla.

Por que a Anthropic está fazendo isso agora

A medida vem depois de uma série de incidentes em laboratórios de IA. O TechCrunch observa que os laboratórios vêm divulgando incidentes com agentes de IA "a cada uma ou duas semanas" desde o fim de agosto de 2026. Anthropic, OpenAI, Google, Meta, Nvidia e xAI também assinaram um acordo da Casa Branca sobre superinteligência. Nele, as empresas se comprometeram a trabalhar com auditores ou avaliadores independentes.

A ideia de avaliadores trabalhando dentro da empresa não é nova para a Anthropic. Em setembro, ela nomeou a Accenture como sua primeira avaliadora incorporada, noticiou o The Standard, citando a AFP. A Anthropic e a Accenture esperam investir, cada uma, pelo menos US$ 1 bilhão ao longo de cinco anos. Na época, a Anthropic disse que estava em conversas com a METR para que ela entrasse, usando recursos próprios da METR.

O financiamento é o ponto sensível. A METR diz que não aceita dinheiro de empresas de IA nem de seus executivos, informa o The Standard. Mais de 100 pesquisadores de IA, entre eles Geoffrey Hinton, assinaram uma carta pedindo que os avaliadores incorporados sejam "significativamente independentes". A própria METR também está entre os grupos citados em uma investigação federal sobre agentes de IA que cobrimos em 1º de outubro.

"Estamos incorporando avaliadores voluntariamente e acreditamos que toda empresa de IA de fronteira deveria fazer o mesmo", escreveu a Anthropic. O TechCrunch informa que a OpenAI se comprometeu com um arranjo semelhante.

O que isso significa para desenvolvedores

Para equipes que constroem sobre o Claude, nada muda no produto hoje. A mudança está no que você vai poder ler sobre o fornecedor.

Os relatórios da METR serão uma nova fonte pública sobre como a Anthropic lida com incidentes e riscos. Se sua empresa faz avaliações de risco de fornecedores ou de governança de IA, inclua esses relatórios na lista de leitura quando eles saírem. Preste atenção à frequência com que as ocultações são sinalizadas e em quais categorias.

O sistema de níveis também dá aos compradores uma pergunta simples para fazer a qualquer provedor de modelos. Quem de fora da sua empresa revisa seu trabalho de segurança, o que essas pessoas podem ver e elas podem publicar sem a sua aprovação? Faça a pergunta a todo fornecedor do qual você depende, não só à Anthropic.

As próximas coisas a acompanhar são a primeira avaliação publicada da METR e se o compromisso da OpenAI vai virar um arranjo equivalente. Se as duas coisas acontecerem, a revisão externa com direito de publicação pode virar uma cláusula comum em contratos corporativos de IA.