Strands Decider 2B trifft Agenten-Entscheidungen in 115 ms

Das Team AWS Strands Labs hat am 1. Oktober 2026 Strands Decider 2B veröffentlicht, ein Open-Source-Modell, das Entscheidungen für KI-Agenten trifft, ohne Text zu schreiben. Es bekommt eine Frage und eine Liste von Optionen, bewertet jede Option und gibt seine Wahl mit einem Konfidenzwert zurück. Laut der Ankündigung von Strands liegt die mediane Antwortzeit bei 115 Millisekunden auf einer RTX 3090. Damit ist das Modell günstig genug, um vor jedem teuren Aufruf eines großen Sprachmodells zu laufen.

Was ein Entscheidungsmodell tut

Die meisten KI-Agenten lassen ein großes Sprachmodell, kurz LLM, den ganzen Tag kleine Entscheidungen treffen. Welches Werkzeug läuft als Nächstes? Welches Modell soll antworten? Ist diese Anfrage erlaubt? Das LLM schreibt seine Antwort als Text, Token für Token. Das ist langsam und kostet Geld.

Ein Entscheidungsmodell überspringt das Schreiben. Es liest die Frage und die Liste der erlaubten Antworten und gibt jeder Antwort einen Score. Die Optionen werden erst im Moment der Anfrage geliefert. Dasselbe Modell kann also in einem Aufruf zwischen Werkzeugen wählen und im nächsten zwischen Richtlinien.

Strands nennt diese Aufgaben:

• Model-Routing, das jede Anfrage an das passende Modell schickt
• Werkzeugauswahl
• Evaluierungen
• Guardrails, die Anfragen blockieren, die gegen eine Richtlinie verstoßen
• Speicher- und Kontextverwaltung

Die Grenzen sind ebenso klar. AWS sagt, das Modell „kann keinen Code schreiben, keine Dokumente zusammenfassen, kein Gespräch führen und bei komplexen Denkaufgaben nicht glänzen", berichtet Techstrong.ai.

Wie es aufgebaut ist

Decider 2B geht vom Modell Qwen3.5-2B-Base von Alibaba aus. Strands hat den Language-Modeling-Head entfernt, also die letzte Schicht, die den internen Zustand des Modells in Wörter umwandelt. An seiner Stelle sitzt ein „Pointer-Head" mit etwa 1 Million Parametern, so SiliconANGLE.

Tech Times erklärt, wie der Head arbeitet. Er vergleicht das Verständnis des Modells für die Eingabe mit jeder Kandidatenoption, per Skalarprodukt, einem einfachen Ähnlichkeitswert. Das Ergebnis ist eine Rangliste der Optionen mit Wahrscheinlichkeiten. Laut dem eigenen Beitrag von Strands wurde das Modell mit einem LoRA-Adapter vom Rang 16 angepasst, einem kleinen Zusatz, der anstelle der vollständigen Gewichte trainiert wird.

Berichte nennen eine Größe von etwa 1,9 Milliarden Parametern. Strands rundet sie im Namen auf 2 Milliarden auf.

Die Zahlen

Messgröße	Ergebnis	Berichtet von
Mediane Latenz, RTX 3090	115 ms	Strands, Tech Times
Latenz im 95. Perzentil	299 ms	Tech Times
Latenz, Apple M3 MacBook	153 ms	Strands
JevBench-v1-Genauigkeit	72,3 % (167 von 231 Aufgaben)	Tech Times, Techstrong.ai
Aufgaben der einfachen Stufe	100 %	Techstrong.ai
Aufgaben der schweren Stufe	50,5 %	Techstrong.ai
Erwarteter Kalibrierungsfehler	0,052	Tech Times

JevBench ist ein öffentlicher Testsatz für Entscheidungsmodelle. Strands sagt, Decider 2B habe unter 33 Modellen der 2B-Klasse den dritten Platz belegt. Ohne Modelle, die knapp über 2 Milliarden Parametern liegen, steht es auf Platz eins von 30.

Der Kalibrierungsfehler misst, wie gut die Konfidenz eines Modells zur Realität passt. Ein niedriger Wert wie 0,052 bedeutet: Wenn das Modell sagt, es sei zu 90 % sicher, liegt es nahe an dieser Quote richtig. Das zählt hier mehr als die reine Genauigkeit, wie der nächste Abschnitt erklärt.

Das Modell und sein Code sind kostenlos herunterladbar. Tech Times nennt die Apache-2.0-Lizenz. Die Gewichte liegen auf Hugging Face in der Organisation StrandsAgents, der Trainingscode steht auf GitHub unter strands-labs/strands-decider.

Eine wachsende Modellklasse

Entscheidungsmodelle werden zu einer eigenen Kategorie. Laut Techstrong.ai verweist Strands darauf, dass Jev von TypeSafe AI, im September veröffentlicht, die Aufmerksamkeit auf diesen Ansatz gelenkt habe. Ein Rivale mit offenen Gewichten, Laya, antwortete im selben Monat auf Jev. Cloudflare folgte am 4. Oktober mit Clef, offenen Modellen, die Entscheidungen zurückgeben.

AWS beschreibt den Kompromiss als Frage der Geschwindigkeit. Das Modell „macht es unnötig, Text zu erzeugen, was enorme Mengen an Tokens verbraucht und die Antwortlatenz erhöht", sagte AWS gegenüber SiliconANGLE.

Was das für Entwickler bedeutet

• Setzen Sie es vor Ihr LLM, nicht an dessen Stelle. Nutzen Sie Decider 2B für die Schritte eines Agenten mit festen Auswahlmöglichkeiten: Routing, Werkzeugwahl und Richtlinienprüfungen. Schreiben und Schlussfolgern überlassen Sie dem großen Modell.
• Nutzen Sie den Konfidenzwert als Schranke. Weil das Modell gut kalibriert ist, können Sie einen Schwellenwert setzen. Darüber handeln Sie nach der Wahl. Darunter geben Sie die Entscheidung an ein größeres Modell oder an einen Menschen ab.
• Halten Sie es von schweren Fällen fern. Ein Wert von 50,5 % bei schweren Aufgaben ist bei zwei Optionen fast ein Münzwurf. Testen Sie Ihre eigenen Entscheidungen und sortieren Sie sie nach Schwierigkeit, bevor Sie ihm vertrauen.
• Formulieren Sie Optionen, die das Modell unterscheiden kann. Der Pointer-Head vergleicht die Eingabe mit dem Text jeder Option. Klare, unterscheidbare Bezeichnungen geben ihm mehr Anhaltspunkte als fast identische.
• Führen Sie es lokal aus. Mit etwa 2 Milliarden Parametern passt es auf eine Consumer-GPU oder einen Laptop. So bleiben Routineentscheidungen ohne Abrechnung und ohne Netzwerk.

Bauen Sie zuerst einen kleinen Testsatz aus den echten Logs Ihres Agenten. Vergleichen Sie dann die Wahl von Decider 2B mit der Ihres LLM und messen Sie, wie oft beide übereinstimmen.