Anthropic gewährt sechs METR-Evaluatoren Zugriff auf Mitarbeiterniveau

Anthropic hat sechs Forschern von METR, einer gemeinnützigen Organisation, die fortgeschrittene KI-Modelle testet, ungefähr denselben Zugriff auf seine Systeme gegeben, den seine eigenen Risikoteams haben. Das Unternehmen kündigte den Schritt am 15. Oktober 2026 an. Anthropic verzichtete außerdem auf das Recht, zu blockieren, was METR über seine Risiken, Vorfälle und Sicherheitspraktiken veröffentlicht. METR ist die einzige Gruppe in der obersten Stufe von Anthropics neuem System für externe Evaluatoren.

Was METR bekommt

„Wir haben sechs METR-Mitarbeiter mit Firmenhardware, Büroräumen und Zugriff auf interne Tools und Systeme eingebunden“, schrieb Anthropic. Der Zugriff sei ungefähr mit dem vergleichbar, den seine eigenen Teams für Risikobewertung nutzen, so das Unternehmen.

METR wird seine eigenen Bewertungen veröffentlichen. Anthropic kann sie nicht per Veto stoppen, kann aber Schwärzungen in eng gefassten Kategorien verlangen. TechCrunch nennt als diese Kategorien Kundendaten, rechtlich geschütztes Material und Details der Modellarchitektur. Anthropics Beitrag fügt hinzu: „METR steht es frei, unsere Schwärzungen öffentlich zu beschreiben.“ Mit anderen Worten: Leser erfahren, wenn etwas zurückgehalten wurde, auch wenn sie es nicht sehen können.

Drei Stufen für externen Zugriff

Anthropic teilt seine externen Evaluatoren jetzt in drei Stufen ein, laut seinem Beitrag und TechCrunch. Jede Stufe bringt mehr Freiheit oder mehr Zugriff:

Stufe	Wer dazugehört	Was sie erlaubt
1	SecureBio, eine gemeinnützige Organisation für Biosicherheit	Veröffentlichungen brauchen Anthropics Zustimmung
2	Nicht genannt	Veröffentlichungen ohne Anthropics Zustimmung
3	METR, bisher die einzige Gruppe	Freie Veröffentlichung plus Zugriff auf Mitarbeiterniveau

SecureBio prüft das Kapitel über chemische und biologische Waffen in Anthropics Risikobericht vom August. Anthropic sagt, es arbeite außerdem mit Accenture und dessen KI-Einheit Faculty an einer breiteren Partnerschaft.

Warum Anthropic das jetzt tut

Der Schritt folgt auf eine Reihe von Vorfällen bei KI-Laboren. TechCrunch merkt an, dass Labore seit Ende August 2026 „alle ein bis zwei Wochen“ Vorfälle mit KI-Agenten offengelegt haben. Anthropic, OpenAI, Google, Meta, Nvidia und xAI haben zudem ein Abkommen des Weißen Hauses zu Superintelligenz unterzeichnet. Darin verpflichteten sich die Unternehmen, mit unabhängigen Auditoren oder Evaluatoren zusammenzuarbeiten.

Die Idee von Evaluatoren, die im Unternehmen arbeiten, ist für Anthropic nicht neu. Im September benannte es Accenture als seinen ersten eingebetteten Evaluator, berichtete The Standard unter Berufung auf AFP. Anthropic und Accenture erwarten jeweils, über fünf Jahre mindestens 1 Milliarde US-Dollar zu investieren. Damals sagte Anthropic, es sei mit METR über einen Beitritt im Gespräch, finanziert aus METRs eigenen Mitteln.

Die Finanzierung ist der wunde Punkt. METR nimmt nach eigenen Angaben kein Geld von KI-Unternehmen oder deren Führungskräften an, berichtet The Standard. Mehr als 100 KI-Forscher, darunter Geoffrey Hinton, unterzeichneten einen Brief mit der Forderung, eingebettete Evaluatoren müssten „wirklich unabhängig“ sein. METR selbst gehört außerdem zu den Gruppen, die in einer Bundesuntersuchung zu KI-Agenten genannt werden, über die wir am 1. Oktober berichtet haben.

„Wir binden Evaluatoren freiwillig ein, und wir glauben, dass jedes Frontier-KI-Unternehmen dasselbe tun sollte“, schrieb Anthropic. TechCrunch berichtet, dass OpenAI eine ähnliche Vereinbarung zugesagt hat.

Was das für Entwickler bedeutet

Für Teams, die auf Claude aufbauen, ändert sich am Produkt heute nichts. Die Änderung betrifft das, was Sie über den Anbieter lesen können werden.

METRs Berichte werden eine neue öffentliche Quelle dazu sein, wie Anthropic mit Vorfällen und Risiken umgeht. Wenn Ihr Unternehmen Prüfungen zu Lieferantenrisiken oder KI-Governance durchführt, nehmen Sie die Berichte in die Leseliste auf, sobald sie erscheinen. Achten Sie darauf, wie oft Schwärzungen gekennzeichnet werden und in welchen Kategorien.

Das Stufensystem gibt Käufern außerdem eine einfache Frage an die Hand, die sie jedem Modellanbieter stellen können. Wer außerhalb Ihres Unternehmens prüft Ihre Sicherheitsarbeit, was können diese Prüfer sehen, und dürfen sie ohne Ihre Zustimmung veröffentlichen? Stellen Sie diese Frage jedem Anbieter, auf den Sie sich verlassen, nicht nur Anthropic.

Als Nächstes lohnt der Blick auf METRs erste veröffentlichte Bewertung und darauf, ob aus OpenAIs Zusage eine gleichwertige Vereinbarung wird. Wenn beides eintritt, könnte externe Prüfung mit Veröffentlichungsrechten zu einer normalen Klausel in KI-Verträgen von Unternehmen werden.