Strands Decider 2B tranche les choix d'agents en 115 ms

L'équipe AWS Strands Labs a publié Strands Decider 2B le 1er octobre 2026, un modèle open source qui prend des décisions pour les agents d'IA sans écrire de texte. À partir d'une question et d'une liste d'options, il note chaque option et renvoie son choix avec une valeur de confiance. L'annonce de Strands donne un temps de réponse médian de 115 millisecondes sur une carte graphique RTX 3090. Il est donc assez peu coûteux pour tourner avant chaque appel onéreux à un grand modèle de langage.

Ce que fait un modèle de décision

La plupart des agents d'IA demandent à un grand modèle de langage, ou LLM, de faire de petits choix toute la journée. Quel outil lancer ensuite ? Quel modèle doit répondre ? Cette requête est-elle autorisée ? Le LLM écrit sa réponse sous forme de texte, token après token. C'est lent et cela coûte de l'argent.

Un modèle de décision saute l'étape d'écriture. Il lit la question et la liste des réponses permises, puis donne un score à chaque réponse. Les options sont fournies au moment où vous posez la question. Le même modèle peut donc choisir entre des outils dans un appel et entre des politiques dans le suivant.

Strands cite ces usages :

• le routage de modèles, qui envoie chaque requête au bon modèle
• le choix d'outils
• les évaluations
• les garde-fous, qui bloquent les requêtes enfreignant une politique
• la gestion de la mémoire et du contexte

Les limites sont tout aussi claires. AWS affirme que le modèle « ne peut pas écrire de code, résumer des documents, tenir une conversation ni exceller dans les tâches de raisonnement complexe », rapporte Techstrong.ai.

Comment il est construit

Decider 2B part du modèle Qwen3.5-2B-Base d'Alibaba. Strands a retiré la tête de modélisation du langage, la couche finale qui transforme l'état interne du modèle en mots. À sa place se trouve une « tête pointeur » d'environ 1 million de paramètres, selon SiliconANGLE.

Tech Times explique le fonctionnement de la tête. Elle compare la lecture de l'entrée par le modèle avec chaque option candidate, à l'aide d'un produit scalaire, un simple score de similarité. Le résultat est une liste classée d'options avec des probabilités. Selon l'article de Strands lui-même, le modèle a été adapté avec un adaptateur LoRA de rang 16, un petit complément entraîné à la place de l'ensemble des poids.

Les articles donnent une taille d'environ 1,9 milliard de paramètres. Strands l'arrondit à 2 milliards dans le nom.

Les chiffres

Mesure	Résultat	Rapporté par
Latence médiane, RTX 3090	115 ms	Strands, Tech Times
Latence au 95e centile	299 ms	Tech Times
Latence, MacBook Apple M3	153 ms	Strands
Précision sur JevBench v1	72,3 % (167 tâches sur 231)	Tech Times, Techstrong.ai
Tâches de niveau facile	100 %	Techstrong.ai
Tâches de niveau difficile	50,5 %	Techstrong.ai
Erreur de calibration attendue	0,052	Tech Times

JevBench est un jeu de tests public pour les modèles de décision. Strands dit que Decider 2B se classe troisième sur 33 modèles de la classe 2B. En écartant les modèles légèrement au-dessus de 2 milliards de paramètres, il est premier sur 30.

L'erreur de calibration mesure à quel point la confiance d'un modèle correspond à la réalité. Une valeur basse comme 0,052 signifie que lorsque le modèle se dit sûr à 90 %, il a raison à peu près aussi souvent. Cela compte plus ici que la précision brute, comme l'explique la section suivante.

Le modèle et son code se téléchargent gratuitement. Tech Times indique la licence Apache 2.0. Les poids se trouvent sur Hugging Face, dans l'organisation StrandsAgents, et le code d'entraînement est sur GitHub à l'adresse strands-labs/strands-decider.

Une classe de modèles en croissance

Les modèles de décision deviennent une catégorie à part entière. Selon Techstrong.ai, Strands attribue à Jev de TypeSafe AI, publié en septembre, le mérite d'avoir attiré l'attention sur cette approche. Un rival à poids ouverts, Laya, a répondu à Jev le même mois. Cloudflare a suivi le 4 octobre avec Clef, des modèles à poids ouverts qui renvoient des décisions.

AWS présente le compromis en termes de vitesse. Le modèle « élimine le besoin de générer du texte, ce qui consomme énormément de tokens et augmente la latence de réponse », a déclaré AWS à SiliconANGLE.

Ce que cela signifie pour les développeurs

• Placez-le devant votre LLM, pas à sa place. Utilisez Decider 2B pour les étapes à choix fixes d'un agent : routage, choix d'outils et contrôles de politique. Laissez l'écriture et le raisonnement au grand modèle.
• Utilisez le score de confiance comme barrière. Comme le modèle est bien calibré, vous pouvez fixer un seuil. Au-dessus, agissez selon son choix. En dessous, confiez la décision à un modèle plus grand ou à une personne.
• Tenez-le à l'écart des décisions difficiles. Un score de 50,5 % sur les tâches difficiles est proche d'un pile ou face avec deux options. Testez vos propres décisions et classez-les par difficulté avant de lui faire confiance.
• Écrivez des options que le modèle sait distinguer. La tête pointeur compare l'entrée avec le texte de chaque option. Des libellés clairs et distincts lui donnent plus de matière que des quasi-doublons.
• Exécutez-le en local. Avec environ 2 milliards de paramètres, il tient sur un GPU grand public ou un portable. Les décisions courantes restent ainsi hors compteur et hors réseau.

Constituez d'abord un petit jeu de tests à partir des vrais journaux de votre agent. Comparez ensuite les choix de Decider 2B avec ceux de votre LLM et mesurez la fréquence de leur accord.