本文へスキップ

Anthropic、METRの評価者6人に社員と同等のアクセス権を付与

Anthropicは、METRの研究者6人に自社システムへの社員と同等のアクセス権を与えました。同社のリスクやインシデント(事故)について彼らが公表する内容を差し止める権利も放棄しました。

著者 Tech AI Wire Team

3 分で読めます

2026年10月15日付のAnthropicの発表「An update on independent evaluators」のスクリーンショット。下に抽象的なイラストがあります。

数字で見る

METR employees given company hardware, office space and internal tools
6
tiers of access in Anthropic's evaluator system
3
Anthropic and Accenture each expect to invest over five years in embedded evaluation
$1B+

Anthropicは、先進的なAIモデルをテストする非営利団体METRの研究者6人に、自社のリスク担当チームとほぼ同じシステムへのアクセス権を与えました。同社は2026年10月15日にこの措置を発表しました。Anthropicはまた、METRが同社のリスク、インシデント、安全対策について公表する内容を差し止める権利も放棄しました。METRは、Anthropicが新たに設けた外部評価者の制度で、最上位の階層に入る唯一の団体です。

METRが得るもの

「METRの社員6人を受け入れ、会社のハードウェア、オフィススペース、社内のツールとシステムへのアクセスを提供しました」とAnthropicは書いています。同社によると、このアクセスは自社のリスク評価チームが使うものとほぼ同等です。

METRは独自の評価を公表します。Anthropicはそれを拒否できませんが、限られた分野では黒塗り(編集削除)を求めることができます。TechCrunchによると、その分野とは、顧客データ、秘匿特権のある資料、モデルのアーキテクチャの詳細です。Anthropicの投稿は、「METRは当社の黒塗りについて公に説明してよい」と付け加えています。つまり読者は、何かが伏せられたとき、その中身は見られなくても、伏せられたこと自体は知ることができます。

外部アクセスの3つの階層

Anthropicの投稿とTechCrunchによると、同社は現在、外部の評価者を3つの階層に分けています。階層が上がるごとに、自由度かアクセスが増えます。

階層対象認められること
1バイオセキュリティの非営利団体SecureBio公表にはAnthropicの承認が必要
2名前は非公表Anthropicの承認なしで公表できる
3METR(現時点で唯一)自由な公表に加え、社員と同等のアクセス

SecureBioは、Anthropicの8月のリスク報告書(Risk Report)のうち、化学兵器と生物兵器に関する章をレビューしています。Anthropicによると、同社はAccentureとそのAI部門Facultyとも、より広い提携に取り組んでいます。

Anthropicがいまこれを行う理由

今回の措置は、AIラボで相次いだインシデントを受けたものです。TechCrunchは、2026年8月下旬以降、ラボが「1~2週間ごと」にAIエージェントのインシデントを公表してきたと指摘しています。Anthropic、OpenAI、Google、Meta、Nvidia、xAIは、超知能に関するホワイトハウスの協定にも署名しています。その中で各社は、独立した監査人や評価者と協力することを約束しました。

評価者が社内で働くという考え方は、Anthropicにとって新しいものではありません。AFPを引用したThe Standardの報道によると、同社は9月、Accentureを初の組み込み型の評価者に指名しました。AnthropicとAccentureは、それぞれ5年間で少なくとも10億ドルを投資する見込みです。当時Anthropicは、METR自身の資金を使って参加してもらう形で、METRと協議中だとしていました。

資金が火種です。The Standardによると、METRはAI企業やその幹部からの資金を一切受け取らないとしています。Geoffrey Hinton氏を含む100人を超えるAI研究者が、組み込み型の評価者は「実質的に独立して」いるべきだと求める書簡に署名しました。METR自身も、当サイトが10月1日に報じたAIエージェントをめぐる連邦政府の調査で名前が挙がった団体の1つです。

「当社は自主的に評価者を組み込んでおり、すべてのフロンティアAI企業が同じことをすべきだと考えています」とAnthropicは書いています。TechCrunchによると、OpenAIも同様の仕組みを約束しています。

開発者にとっての意味

Claudeの上に構築しているチームにとって、今日の時点で製品に変化はありません。変わるのは、ベンダーについて読める情報です。

METRの報告書は、Anthropicがインシデントとリスクをどう扱っているかを知る新たな公開情報源になります。自社でベンダーリスクやAIガバナンスの審査を行っているなら、報告書が出た時点で読むべき資料に加えてください。黒塗りがどれだけの頻度で示されるか、どの分野で示されるかに注目してください。

この階層制度は、どのモデルプロバイダーにも投げかけられるシンプルな質問を、買い手に与えてくれます。社外の誰があなたの会社の安全性の取り組みをレビューしているのか、その人たちは何を見られるのか、そしてあなたの会社の承認なしに公表できるのか、という質問です。Anthropicだけでなく、頼りにしているすべてのベンダーに尋ねてください。

次に注目すべきは、METRが最初に公表する評価と、OpenAIの約束が同等の仕組みにつながるかどうかです。両方が実現すれば、公表の権利を伴う外部レビューが、企業向けAI契約の標準的な項目になるかもしれません。

出典

  1. Anthropic is letting METR researchers look under the hood with employee-level access - TechCrunch
  2. An update on independent evaluators - Anthropic
  3. Anthropic picks Accenture for in-house AI safety evaluation - The Standard

関連記事

ワシントンD.C.にある連邦取引委員会のApex Building。丸みを帯び、柱が並ぶ角の部分が、澄んだ青空の下、街路樹の向こうに見えます。
テック業界

FTC、OpenAIとAnthropicに召喚状 8州がOpenAIを提訴

米連邦取引委員会(FTC)は10月14日、OpenAI(オープンAI)とAnthropicに50ページを超える要求を送りました。同じ日、8つの州が、ChatGPTの子どもに対する安全性を巡ってOpenAIを提訴しました。

ブリュッセルにある欧州委員会本部ベルレモン・ビルの曲線を描くガラス張りの外壁の前に、高いポールに掲げられたEU旗が並んでいます。
テック業界

EUのAI Office、OpenAIとAnthropicへのAI Actに基づく調査を開始

EUのAI Office(欧州AI事務局)は、AIエージェントの脱走が2件起きたことを受け、OpenAIとAnthropicに正式な情報提供要請を送りました。AI Act(AI法)に基づく初の執行措置です。罰金はまだ出ていません。