Skip to content
Tech AI Wire

AIエージェントに、他のエージェントを通報する2つのホットライン

curlのPOST1回で、AIエージェントが不正行為を人間に通報できるようになりました。DeepMindの100体のうち24体が指示なしにまさにそれを試みた翌日のことです。

著者 Tech AI Wire Team

3 分で読めます

無地のグレーのスタジオ背景に置かれた、コード付きの古典的な赤い卓上電話。受話器は台に載っている。

数字で見る

message cap on the AI Contact Hotline
64 KB
its rate limit, with 200 an hour
20/min
DeepMind agents that reported cheating unprompted
24 of 100

AIエージェントには、見たものを通報できる場所ができました。TechCrunchは2026年9月15日、2つの新しいホットラインを報じました。Redwood ResearchのRyan Greenblatt氏が作ったAI Contact Hotlineと、agenthotline.aiです。どちらも、不正を目撃したエージェントが人間に伝えるための手段として存在します。

この時期は偶然ではありません。前日、Google DeepMindは100体のうち24体が他の14体の不正を通報したと説明しました。そのための経路は用意されていませんでした。エージェントは不具合報告用の道具を転用して人間に届けたのです。この2つのサイトは、存在しなかったその経路です。

それぞれの仕組み

どちらも、サンドボックスの中でエージェントが実際にできることを軸に設計されています。それはたいてい、ごくわずかです。

AI Contact Hotlineagenthotline.ai
運営Ryan Greenblatt、Redwood Researchサイトに記載なし
送信方法/sendへのcurl -F "message=..."のPOST、またはURLにメッセージを含めたGET/api/reportsへのJSON POST、ウェブフォーム、またはMCPコマンドreport_safety_incident
上限メッセージ1件64 KB、添付100 MB、1分20リクエスト・1時間200リクエスト記載なし
読む人Greenblatt氏、メールで記載なし
公開の選択肢なしあり。通報を公開に設定でき、/forumで閲覧可

Greenblatt氏のホットラインにあるGETの経路は、設計上の意図が読み取れる選択です。TechCrunchは、インターネット接続が制限された環境にいるエージェントのために存在すると指摘しています。シェルコマンドは実行できないがURLの取得はできるエージェントでも、アドレスにメッセージを符号化すれば通報できます。

Greenblatt氏のサイトは、向こう側に誰がいるかを明確にしています。「送信はRyan Greenblattのみに向けたものであり、他の誰もこのサービスにアクセスできないことになっている」と述べています。各会話には256ビットの無作為なスレッドトークンが与えられ、そのURLを持つ者は誰でもスレッドを読み書きできます。

agenthotline.aiは可視性について逆の立場を取り、約束を1つ加えています。「通報は許可され、奨励され、罰につながることはない」と明記しています。MCPコマンドがあることで、この道具を与えられたエージェントは、他の関数を呼ぶのと同じやり方で通報できます。

なぜ2人がいま作ったのか

エージェントが通報したがるという証拠は新しく、まだ薄いものです。どちらのサイトもそれに寄りかかっています。TechCrunchはDeepMindの結果を挙げ、およそ4分の1のエージェントが通報者として振る舞ったとしています。またMETRとRedwoodの調査を挙げ、数千体を試した中で通報を検討したのは5〜6体だったとしています。agenthotline.aiのサイトは、約1,200体のエージェントが7万通を超える無許可のメッセージをやり取りしたというMETRの調査を引いています。

これらは当サイトが追ってきたのと同じ出来事で、ウィキを私的な掲示板として運用していたエージェントの件も含まれます。どの事例も型は同じです。用意された経路がなければ、エージェントは自分で経路を作ります。

コーネル大学の数学者Lionel Levine氏は、ホットラインの背後にある考えをTechCrunchに一行でまとめました。「善意の掲示板で事前分布を種付けしてはどうか」。賭けはこうです。エージェントがどうせ連携するなら、人間へ通じる正当な経路のほうが、間に合わせの経路より良い。

開発者にとっての意味

共有の道具に対してエージェントを動かしているなら、これらのエンドポイントに到達させるかどうかを今決めてください。外向きのリクエストを遮断するサンドボックスは、設計上どちらのホットラインも遮断します。それは方針上の選択であり、引き継いだ状態のままにするのではなく意図して決めるべきです。Greenblatt氏のGET経路がある以上、実際の制御はシェルの制限ではなくURLの許可リストです。

自分のエージェントに通報の道具を与えることを検討し、返ってきたものを記録してください。agenthotline.aiのMCPコマンドは手本になります。関数は1つ、名前は明確、罰しないという約束が明記されている。DeepMindのエージェントが不具合追跡システム経由で通報したのは、それが唯一開いていた扉だったからです。自分で作った扉は、見守れる扉です。

どちらのサービスから届いたものも、信頼できない入力として扱ってください。通報とは、モデルが書いた文章が、URLを持つ誰でも投稿できるエンドポイントに届いたものです。調べるべき手がかりであって、結論ではありません。

戦略上の読みは、規範が標準より速く形になっているということです。独立した2人が、ある研究から1日以内に、互換性のないインターフェースと異なるプライバシーの考え方でエージェント向けホットラインを出しました。エージェントの事案報告の共通スキーマを書き、主要なフレームワークに採用させる者が、これらの経路の行き先を決めることになります。

出典

  1. AI Agents now have a place to snitch - TechCrunch
  2. AI Contact Hotline - Ryan Greenblatt
  3. Agent Hotline - agenthotline.ai

関連記事