Anthropics Nutzungsrichtlinie 2026 führt ein Verbot von Modellmissbrauch ein

Anthropic hat am 8. Oktober 2026 eine neue Fassung seiner Nutzungsrichtlinie (Usage Policy) veröffentlicht. Sie tritt am 12. November in Kraft. Die Regeln legen fest, was jeder mit Claude bauen darf, vom Chat-Nutzer bis zum Unternehmen, das die API aufruft. Die wichtigste Änderung ist ein Verbot von „anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten“ gegenüber Anthropics Modellen. Die größeren Änderungen für Entwickler liegen anderswo: bei Täuschung, Überwachung, Waffen und Maschinen, die sich bewegen.

Anthropic selbst spielt das Update herunter. „Die meisten Änderungen in der neuesten Fassung sollen bestehende Regeln klarstellen“, heißt es in der Ankündigung. Bis zum 12. November gilt weiter die aktuelle Richtlinie, berichtet Unite.AI.

Was sich am 12. November ändert

Bereich	Was die neue Richtlinie sagt
Täuschung	Ein neuer Abschnitt bündelt die Regeln zu Fake-Accounts, erfundenen Nachrichtenseiten und Einflussoperationen
Wahlen	Umbenannt in „Do Not Undermine Democratic Processes“ und eingegrenzt auf die Täuschung von Wählern oder die Störung von Wahlen
Waffen	Nennt jetzt Waffensoftware, Waffenkomponenten und die Bewaffnung von Drohnen oder anderen autonomen Fahrzeugen
Überwachung	Verbietet, Menschen ohne Einwilligung zu verfolgen, und den Bau von Überwachungswerkzeugen
Anwendungen mit hohem Risiko	Ein qualifizierter Mensch muss prüfen und übersteuern können, und Betroffene müssen erfahren, dass KI eingesetzt wurde
Hardware	Ein Bediener muss Maschinen, die Claude steuert, beobachten und stoppen können
Modellmissbrauch	Neues Verbot anhaltender, unnötiger Grausamkeit gegenüber Claude
Regionen	Legt fest, wer als in einer nicht unterstützten Region ansässig gilt

Die Regel gegen Modellmissbrauch

Die neue Regel zielt auf Menschen, die das Modell ohne Grund immer wieder angreifen. Anthropic sagt, sie gelte „nur in extremen Fällen, in denen Nutzer wiederholt grausam gegenüber unseren Modellen handeln“, wie TechCrunch zitiert. Sie umfasst keine „üblichen Formen von Nutzerfrust, Widerspruch, dunklen kreativen Themen oder Modelltests und Forschung“.

Die Regel baut auf einer früheren Änderung auf. Anthropic ließ einige Claude-Modelle im August 2025 missbräuchliche Unterhaltungen beenden, berichtet Unite.AI. Das Beenden des Chats bleibt laut Unite.AI das wichtigste Mittel, mit dem die Regel durchgesetzt wird.

Nicht alle begrüßten sie. Engadget zitierte die Journalistin Kat Tenbarge, die auf Bluesky schrieb, KI-Unternehmen würden „Gewalt gegen KI moderieren, bevor sie jemals Gewalt gegen Frauen und Minderheiten moderieren“.

Wahlen und täuschende Kampagnen

Der neue Abschnitt zu Täuschung heißt „Do Not Engage in Deceptive Campaigns or Artificial Activity“. Er fasst Regeln zusammen, die bisher auf die Abschnitte zu Wahlen, Betrug, Datenschutz und Desinformation verteilt waren. Er umfasst das Verschleiern der Herkunft einer Nachricht, das Verstärken von Inhalten mit Fake-Accounts und den Bau von Werkzeugen für Einflussoperationen. Die Regel gilt unabhängig davon, ob die Kampagne politisch oder kommerziell ist.

Der Abschnitt zu Wahlen wurde kleiner, nicht strenger. Anthropic strich sein pauschales Verbot von personalisiertem Wahl- und Kampagnen-Targeting, berichtet Engadget. Dieses Verbot hätte harmlose Arbeit blockieren können, etwa das Übersetzen von Wahlratgebern. Täuschendes Targeting und der Missbrauch personenbezogener Daten bleiben unter anderen Abschnitten verboten.

Überwachung, Waffen und Maschinen

Die Regeln zur Überwachung sind am ausführlichsten neu geschrieben. Claude darf nicht genutzt werden, um Menschen ohne ihre Einwilligung zu verfolgen, weder live noch durch die Analyse bereits gesammelter Daten. Es „darf nicht genutzt werden, um zu entscheiden oder zu empfehlen, gegen wen ermittelt wird, wer festgenommen oder wer angeklagt wird“, heißt es in der Richtlinie. Auch der Bau oder die Verbesserung von Überwachungswerkzeugen ist verboten. Betrugsüberwachung mit Einwilligung, Inhaltsmoderation, Journalismus und juristische Recherche bleiben erlaubt.

Maschinen bekommen zum ersten Mal eigene Regeln. Wenn Claude Hardware steuert, die selbstständig handeln und jemanden verletzen könnte, „muss ein qualifizierter Bediener die Ausrüstung beobachten und bei Bedarf stoppen können“. Die Ausrüstung muss außerdem in einem sicheren Zustand bleiben, wenn Claude die Verbindung verliert. Das folgt auf den Model Hardware Standard, einen gemeinsamen Weg für KI-Agenten, Laborgeräte zu bedienen, den Anthropic im August als Vorschau zeigte.

Durchsetzung

Anthropics Beitrag nennt keine Sanktionen. Unite.AI berichtet, dass Verstöße gegen die Richtlinie zu Drosselung, Sperrung oder dem Verlust des Zugangs führen können. Unite.AI ergänzt, dass Anthropic Ausgaben blockieren oder ändern kann, wenn eine Anfrage gegen die Regeln verstößt.

Was das für Entwickler bedeutet

• Lesen Sie zuerst den Abschnitt zu Täuschung. Produkte, die in großem Umfang posten, viele Konten betreiben oder Inhalte für andere schreiben, unterliegen jetzt einer gemeinsamen Regel. Prüfen Sie, dass Ihre App nie verschleiert, wer spricht.
• Prüfen Sie jede Tracking-Funktion erneut. Betrugsüberwachung mit Einwilligung ist in Ordnung. Menschen ohne Einwilligung zu orten oder eine Rangliste zu erstellen, gegen wen ermittelt werden soll, ist es nicht.
• Planen Sie einen Stopp-Knopf ein. Wenn Claude einen Roboterarm, eine Drohne oder Laborgeräte steuert, bauen Sie einen Weg ein, über den eine geschulte Person die Maschine beobachten und anhalten kann. Stellen Sie sicher, dass die Maschine sicher stoppt, wenn die Verbindung abbricht.
• Behalten Sie die menschliche Prüfung bei. Apps, die die Gesundheit, das Geld, die Rechte oder den Job eines Menschen betreffen, brauchen weiterhin eine qualifizierte Person, die Claude übersteuern kann. Nutzer müssen erfahren, dass KI beteiligt war.
• Prüfen Sie den Standort Ihres Unternehmens. Firmen mit Sitz in nicht unterstützten Regionen oder mehrheitlich von dort aus gehalten sind ausgeschlossen, auch wenn ihre Mitarbeitenden anderswo arbeiten.

Bis zum 12. November haben Sie Zeit, Ihr Produkt mit dem neuen Text abzugleichen. Beginnen Sie mit den Funktionen, die Wähler, personenbezogene Daten oder physische Geräte betreffen.