Anthropic、小型AIモデルが近く自己複製できるようになる可能性を指摘

Anthropicによると、誰でもダウンロードできる小型AIモデルが、人の手を借りずに、インターネットにつながった安価な機器へ自らをコピーできるようになる日が近いかもしれません。モデルの危険な能力を検証する同社のFrontier Red Teamが、2026年10月12日にこの研究を公開しました。そうしたプログラムは、動作にデータセンターを必要としなくなります。Anthropicは、小型モデルが2026年末までにその水準に達する可能性があると見積もっています。

Anthropicが検証したこと

William ZhouとDaniel FreemanによるAnthropicの記事は、主に2つの実験を説明しています。

1つ目は、安価なハードウェアでそもそも高性能なモデルを動かせるかを調べるものでした。チームは、ノーブランドのAndroid TVボックス15台をつなぎました。各ボックスは約55ドルで、メモリは4GBです。これらのボックスは、オープンウェイトモデルのGemma4-26B-A4Bを分割して一緒に動かしました。動作はしましたが、遅いものでした。記事は、ある箇所では毎秒約0.39トークン、別の箇所では約0.3トークンとしています。トークンとは、テキストの小さな断片です。

2つ目は、侵入し、モデルをコピーし、次の機器で再び動き出すという一連の流れ全体を検証しました。チームは、Androidエミュレーターを動かすクラウドマシン8台で、閉じたネットワークを構築しました。あらかじめ準備した1台のマシンから拡散が始まりました。各コピーは、パスワードのかかっていないADBポートを通って移動しました。ADBポートは、Android機器のデバッグ用接続です。コピーはその後、新しいマシン上にモデルサーバーを立ち上げました。

成功したモデル

Anthropicによると、一連の流れ全体を完了できたオープンウェイトモデルは1つだけでした。結果は次のとおりです。

テスト	構成	結果
モデルの実行	Android TVボックス15台、各約55ドル	Gemma4-26B-A4Bが毎秒約0.3〜0.39トークンで動作
拡散全体	クラウドマシン8台、開いたADBポート	GLM-5.2が5回中4回の試行で8台すべてに到達、5回目は8台中7台
小型モデル	パラメータ数300億以下	個々の手順の多くは完了したが、つなげるとエラー
コピー間での学習	Qwen3.5-9B、6世代、20系統	サーバー構築の成功率が45%から61%〜84%に上昇

記事によると、ほかのオープンウェイトモデルは、完全なテストで一貫して失敗しました。Claude Opus 4.8からQwen3.5-9Bに助言を与えても、有意な差は生まれませんでした。Qwen3.5-9Bにどれだけのメモリが必要かは、9月に取り上げました。

GLM-5.2は、中国のラボZhipuのモデルです。同社の新しいGLM-5.3は8月にオープンウェイトで公開されました。

テストの限界

Anthropicは、実験の構成が簡略化されていたことを強調しています。ADBポートにパスワードが不要だったため、侵入は簡単でした。記事は「そのため、これは現実世界での成功の上限となる」と述べています。記事によると、この種のAIワームが実際に出回っている例は確認されていません。

Al Jazeeraは、高性能でありながら十分に小型で、テストに使われたスマートテレビ上で確実に自己複製できる現行モデルはなかったと報じています。

いつ起こり得るか

小型モデルがこれまでのペースで改善を続ければ、2026年末までにGLM-5.2に並ぶモデルが現れる可能性があると、Anthropicは見積もっています。この見積もりは、モデルの能力を総合したスコアであるEpoch Capabilities Indexに当てはめた傾向線に基づいています。Anthropicは、この見積もりを大まかなものだとしています。Reutersも、同じ2026年末という時期を報じています。

研究チームはAl Jazeeraに対し、家庭や小規模事業者の機器は「インターネットに接続されているため、こうした攻撃の最初の標的になるかもしれない」と語りました。

ルイビル大学のAIとサイバーセキュリティの専門家であるRoman V Yampolskiyは、Al Jazeeraに「現時点では、これは存亡に関わる脅威ではありません。しかし、その方向性は懸念されます」と語りました。

Anthropicの推奨事項

記事は、次の防御策を提案しています。

• 拡散を1未満に抑える。 感染した機器1台が感染させる機器を平均1台未満にすれば、流行は収束します。
• ネットワークの通信を監視する。 インターネットプロバイダーは、数ギガバイト規模のモデル転送や、機器同士の異常な通信を探すことができます。
• 罠を仕掛ける。 おとりの機器であるハニーポットで、ワームのコードを捕獲できます。
• 隔離して通知する。 Miraiボットネットの流行時には、感染した顧客に通知することで、14日以内に感染の92%が解消されました。通知しなかった場合は74%でした。
• より安全な初期設定で出荷する。 機器メーカーは基本的なセキュリティ水準を引き上げるべきであり、規制がその調整に役立つ可能性があります。

開発者にとっての意味

接続機器を開発・運用するチームにとっての意味は次のとおりです。

• デバッグ用ポートを閉じましょう。 テストでは、パスワードのないADBポートを通じて拡散しました。Androidベースの製品ではネットワーク経由のADBを無効にするか、認証を必須にしましょう。
• 大容量の転送にアラートを設定しましょう。 自らをコピーするモデルは、数ギガバイトの重みを移動させる必要があります。普段はそれほど大量のデータを取得しない機器への、数ギガバイト規模のダウンロードを検知しましょう。
• 安価な機器を分離しましょう。 TVボックスやスマート家電は、業務システムから離した専用のネットワークセグメントに置きましょう。
• デフォルトのパスワードをなくしましょう。 機器を製造するなら、1台ごとに固有の認証情報を設定して出荷しましょう。
• 小型のオープンモデルを追跡しましょう。 Anthropicの予測時期は、小型モデルがどれだけ速く改善するかにかかっています。新しいモデルが登場するたびに、自社のリスクを再検証しましょう。