Anthropic donne à six évaluateurs de METR un accès de niveau employé

Anthropic a donné à six chercheurs de METR, une organisation à but non lucratif qui teste les modèles d'IA avancés, à peu près le même accès à ses systèmes que celui de ses propres équipes chargées des risques. Elle a annoncé cette mesure le 15 octobre 2026. Anthropic a aussi renoncé au droit de bloquer ce que METR publie sur ses risques, ses incidents et ses pratiques de sécurité. METR est le seul groupe placé au niveau le plus élevé du nouveau système d'Anthropic pour les évaluateurs externes.

Ce que METR obtient

« Nous avons intégré six employés de METR, avec du matériel de l'entreprise, des bureaux et un accès aux outils et systèmes internes », a écrit Anthropic. Cet accès est à peu près comparable à celui de ses propres équipes d'évaluation des risques, selon l'entreprise.

METR publiera ses propres évaluations. Anthropic ne peut pas y opposer de veto, mais elle peut exiger des caviardages dans des catégories restreintes. TechCrunch cite ces catégories : les données clients, les documents protégés par le secret professionnel et les détails de l'architecture des modèles. Le billet d'Anthropic ajoute que « METR est libre de décrire publiquement nos caviardages ». Autrement dit, les lecteurs sauront quand quelque chose a été retenu, même s'ils ne peuvent pas le voir.

Trois niveaux d'accès externe

Anthropic classe désormais ses évaluateurs externes en trois niveaux, selon son billet et TechCrunch. Chaque niveau ajoute de la liberté ou de l'accès :

Niveau	Qui en fait partie	Ce qu'il permet
1	SecureBio, une organisation à but non lucratif de biosécurité	La publication nécessite l'accord d'Anthropic
2	Non nommé	Publication sans l'accord d'Anthropic
3	METR, le seul groupe à ce jour	Publication libre et accès de niveau employé

SecureBio examine le chapitre sur les armes chimiques et biologiques du rapport sur les risques (Risk Report) publié par Anthropic en août. Anthropic indique travailler aussi avec Accenture et son unité d'IA Faculty sur un partenariat plus large.

Pourquoi Anthropic agit maintenant

Cette décision fait suite à une série d'incidents dans les laboratoires d'IA. TechCrunch note que les laboratoires ont révélé des incidents d'agents d'IA « toutes les semaines ou toutes les deux semaines » depuis fin août 2026. Anthropic, OpenAI, Google, Meta, Nvidia et xAI ont aussi signé un accord de la Maison Blanche sur la superintelligence. Les entreprises s'y sont engagées à travailler avec des auditeurs ou des évaluateurs indépendants.

L'idée d'évaluateurs travaillant au sein de l'entreprise n'est pas nouvelle pour Anthropic. En septembre, elle a désigné Accenture comme son premier évaluateur intégré, a rapporté The Standard, citant l'AFP. Anthropic et Accenture prévoient chacune d'investir au moins 1 milliard de dollars sur cinq ans. Anthropic indiquait alors être en discussion avec METR pour qu'il la rejoigne, sur les fonds propres de METR.

Le financement est le point sensible. METR affirme n'accepter aucun argent des entreprises d'IA ni de leurs dirigeants, rapporte The Standard. Plus de 100 chercheurs en IA, dont Geoffrey Hinton, ont signé une lettre demandant que les évaluateurs intégrés soient « réellement indépendants ». METR fait d'ailleurs partie des groupes cités dans une enquête fédérale sur les agents d'IA que nous avons couverte le 1er octobre.

« Nous intégrons des évaluateurs de notre plein gré, et nous pensons que chaque entreprise d'IA de pointe devrait faire de même », a écrit Anthropic. TechCrunch rapporte qu'OpenAI s'est engagée à mettre en place un dispositif similaire.

Ce que cela signifie pour les développeurs

Pour les équipes qui construisent sur Claude, rien ne change dans le produit aujourd'hui. Le changement porte sur ce que vous pourrez lire au sujet du fournisseur.

Les rapports de METR seront une nouvelle source publique sur la manière dont Anthropic gère les incidents et les risques. Si votre entreprise mène des évaluations des risques fournisseurs ou de gouvernance de l'IA, ajoutez-les à votre liste de lecture dès leur parution. Regardez à quelle fréquence des caviardages sont signalés, et dans quelles catégories.

Le système de niveaux donne aussi aux acheteurs une question simple à poser à tout fournisseur de modèles. Qui, à l'extérieur de votre entreprise, examine votre travail de sécurité, que peut-il voir, et peut-il publier sans votre accord ? Posez-la à chaque fournisseur dont vous dépendez, pas seulement à Anthropic.

Les prochaines choses à surveiller sont la première évaluation publiée par METR et la question de savoir si l'engagement d'OpenAI se traduira par un dispositif équivalent. Si les deux se produisent, un examen externe avec droit de publication pourrait devenir une clause courante des contrats d'IA en entreprise.