Layas typisierte Entscheidungen, erklärt

Ein Modell für typisierte Entscheidungen liest eine feste Menge an Fragen und füllt jede Antwort mit einem typisierten Wert und einer Vertrauenszahl. Es schreibt nie einen Satz. Zwei solche Modelle erschienen im September 2026 im Abstand von sechs Tagen: TypeSafes Jev am 15. September und Convai Innovations' Laya am 19. September. Laya ist für die meisten Entwickler wichtiger, weil man es selbst herunterladen und ausführen kann. Jev ist geschlossen und nur über eine Warteliste erreichbar.

Das ist eine echte Änderung der Form, nicht nur ein neues Modell. Ein gewöhnliches Chat-Modell schreibt ein Wort nach dem anderen und hofft, dass am Ende eine brauchbare Struktur herauskommt. Ein Modell für typisierte Entscheidungen bekommt die Struktur vorher vorgegeben und verlässt sie nie. Genau dieser Unterschied entscheidet, wo welche Art von Modell wirklich hilft.

Wie es funktioniert

Sie übergeben einem Modell für typisierte Entscheidungen einen Zustand, etwa eine E-Mail oder einen JSON-Datensatz. Dazu geben Sie eine Liste von Fragen mit jeweils festem Antworttyp. Das Modell füllt jede Antwort in einem Durchgang aus und hängt an jede eine Vertrauenszahl. Laut Convai Innovations' Projektseite beantwortet Laya eine Frage im Median in 32,8 Millisekunden auf einer Tesla T4, einer günstigen Grafikkarte, die in Cloud-Rechenzentren verbreitet ist.

Das Modell erzeugt keinen freien Text. Es liefert nur einen Wert, der bereits zu einem von Ihnen definierten Typ passt: eine Kategorie aus einer festen Liste, eine Zahl oder ein Ja-Nein. Die Modellkarte auf Hugging Face beschreibt Laya als einen Entscheidungskopf auf einem ModernBERT-large-Grundgerüst, nicht als Chat-Modell mit nachträglich angehängten Regeln. TypeSafe baute Jev nach demselben Prinzip. Das Unternehmen trainierte es mit einer Methode, die es Reinforcement Learning for Calibrated Decisions nennt, statt mit dem Verfahren für Chat-Modelle.

Vertrauen ist die andere Hälfte der Idee, und hier werden beide Modelle offener als die meisten Anbieter. Ein Modell kann falschliegen und trotzdem kalibriert sein, solange seine Vertrauenszahlen zur tatsächlichen Trefferquote passen. Layas eigene Unterlagen nennen einen Kalibrierungsfehler von 0,466 vor jeder Anpassung. Dieser Wert sinkt erst nach einer Temperaturanpassung je Fragetyp, mit eigenen Daten, auf die beworbenen 0,081. Das ist Arbeit, die Sie noch erledigen müssen, keine Eigenschaft, die mit den Gewichten mitkommt.

Die Trefferquote braucht dieselbe Vorsicht. Laya erreicht auf seinem eigenen Test ohne Feinabstimmung 0,362. Auf demselben Test erreicht reines Raten 0,318, und wer stets die häufigste Antwort wählt, kommt auf 0,461. Nach Feinabstimmung auf dem Trainingsteil dieses Tests erreicht dasselbe Modell 0,766. Die Modellkarte zieht den Schluss selbst: "Laya is a fast base to specialise, not a zero-shot decision engine."

Modell	Anbieter	Zugang	Lizenz	Gemeldete Latenz
Jev	TypeSafe AI	Warteliste, gehostete API	Geschlossen	70-500 ms end-to-end, laut TypeSafe
Laya	Convai Innovations	Gewichte herunterladen	Apache 2.0	32,8 ms Median auf einer Tesla T4, laut Convai

Beide Modelle geraten an derselben Stelle ins Straucheln: wenn die Liste der Optionen wächst. Laut TypeSafe bewertet Jev Kandidaten in zwei unabhängigen Stufen, wenn eine Frage viele Optionen hat, bis zu 255 Stück. Layas Gründer Nandakishor Mukkunnoth nennt für sein eigenes Modell eine deutlich niedrigere Grenze: "Choice questions degrade with more than 20 options." Ein Modell für typisierte Entscheidungen ist für ein kleines, festes Menü an Antworten gebaut, nicht für ein offenes. Prüfen Sie diese Grenze selbst, bevor Sie sich bei einer Frage mit vielen möglichen Antworten auf eines der beiden Modelle verlassen.

Was sich geändert hat, und wann

TypeSafe brachte die Idee zuerst. Sein Jev-Modell, am 15. September angekündigt, bewertet Kandidaten in zwei unabhängigen Stufen, wenn eine Frage viele Optionen hat, bis zu 255 Stück. Es berechnet 0,042 US-Dollar je Million Eingabe-Token, die Ausgabe ist kostenlos. Der Haken ist der Zugang. Jev sitzt hinter einer Warteliste, und es gibt noch keinen unabhängigen Test dazu.

Vier Tage später kam Laya als offene Antwort auf dieselbe Idee. Es umfasst 421 Millionen Parameter, einen Bruchteil der Größe der meisten Sprachmodelle, und erscheint unter der Apache-2.0-Lizenz, die kommerzielle Nutzung und Änderungen erlaubt. Jeder kann es herunterladen, lokal ausführen und prüfen, was es wirklich tut. Das lässt eine Warteliste-API nicht zu.

Genau dieser Unterschied im Zugang ist die eigentliche Neuigkeit. Ein Entwickler kann TypeSafes Kalibrierungsangaben nicht ohne Einladung prüfen. Ein Entwickler kann Layas Angaben heute Nachmittag prüfen, auf eigener Hardware, mit eigenen Daten.

Was das für Entwickler bedeutet

Behandeln Sie ein Modell für typisierte Entscheidungen als Ersatz für einen einzelnen Aufruf in einer Pipeline, nicht für Ihr gesamtes Modell. Die Form passt zu Klassifizierung, Weiterleitung, Rangfolge und Werkzeugauswahl: jedem Schritt, bei dem ein bestehendes Modell schon eine von wenigen Optionen liefert. Sie passt nicht zu allem, was Fließtext erzeugen muss, denn diese Modelle können überhaupt keinen Fließtext schreiben.

Lesen Sie vor jeder Entscheidung für eines der beiden Modelle den Wert ohne Feinabstimmung, nicht den feinabgestimmten. Der Abstand zwischen Layas 0,362 und 0,766 entsteht allein aus dem Trainingsteil eines Tests. Wer nicht ein paar tausend eigene Beispiele beschriften kann, sollte sich am Wert ohne Feinabstimmung orientieren, denn der sagt die eigenen Ergebnisse voraus.

Planen Sie die Kalibrierungsarbeit ein, bevor Sie einer Vertrauenszahl von einem der beiden Modelle glauben. Passen Sie zuerst die Temperatur je Fragetyp an eigenen Daten an. Protokollieren Sie danach eine Woche lang Vertrauen und Ergebnis, und prüfen Sie, ob 0,7 wirklich siebzig Prozent bedeutet. Layas offene Gewichte lassen Sie diese Prüfung heute selbst durchführen. Bei Jevs Warteliste verlassen Sie sich bis zum eigenen Zugang auf TypeSafes Zahlen.

Prüfen Sie die Lizenz, bevor Sie über einen Prototyp hinausbauen. Apache 2.0 erlaubt ein Produkt auf Basis von Laya. Jevs Bedingungen gehören TypeSafe und sind nur über die Warteliste einsehbar, also lesen Sie sie genau, bevor Sie einen Start um eines der beiden Modelle herum planen.

Enge, binäre Entscheidungen sind der Bereich, in dem ein Modell für typisierte Entscheidungen schon ohne Feinabstimmung stark wirkt. Layas eigene Zahlen setzen Spam-Filterung bei E-Mail auf 0,993 und Phishing-Erkennung auf 0,980, beide weit über seinem allgemeinen Wert ohne Feinabstimmung. Passt Ihr Anwendungsfall zu einem davon, kann ein kleines Modell für typisierte Entscheidungen ein viel größeres Chat-Modell bei Kosten und Geschwindigkeit bereits schlagen. Geht es dagegen um offenes Urteilsvermögen, planen Sie den Feinabstimmungsschritt von Anfang an ein.