Saltar al contenido
IA y LLMExplicación

Las decisiones tipadas de Laya, explicadas

Un modelo de decisiones tipadas rellena preguntas fijas con respuestas tipadas y un número de confianza. Los pesos abiertos de Laya, 421M, le permiten comprobarlo usted mismo.

Por Tech AI Wire Team

5 min de lectura

XLinkedIn
An NVIDIA Tesla T4 graphics card standing upright on a plain gray studio backdrop, the class of hardware Laya's latency was measured on.

En cifras

Laya's median latency for one question, on a Tesla T4
32.8 ms
Jev's end-to-end latency, per TypeSafe
70-500 ms
Laya's zero-shot accuracy, against 0.318 for random guessing
0.362

Un modelo de decisiones tipadas lee un conjunto fijo de preguntas y rellena cada respuesta con un valor tipado y un número de confianza. Nunca escribe una frase. Dos de estos modelos aparecieron con seis días de diferencia en septiembre de 2026: Jev, de TypeSafe, el 15 de septiembre, y Laya, de Convai Innovations, el 19 de septiembre. Laya importa más a la mayoría de los desarrolladores, porque se puede descargar y ejecutar uno mismo. Jev es cerrado, y solo se llega a él por lista de espera.

Es un cambio real de forma, no solo un modelo nuevo. Un modelo de conversación normal escribe una palabra cada vez y confía en que salga una estructura útil. Un modelo de decisiones tipadas recibe la estructura de antemano y nunca se aparta de ella. Esa única diferencia decide dónde ayuda de verdad cada tipo de modelo.

Cómo funciona

A un modelo de decisiones tipadas se le entrega un estado, por ejemplo un correo o un registro JSON. También se le da una lista de preguntas, cada una con un tipo de respuesta fijo. El modelo rellena cada respuesta en una sola pasada y añade a cada una un número de confianza. Según el sitio del proyecto de Convai Innovations, Laya responde a una pregunta en una mediana de 32,8 milisegundos, en una tarjeta gráfica Tesla T4, barata y frecuente en los centros de datos en la nube.

El modelo nunca produce texto libre. Solo devuelve un valor que ya encaja en un tipo que usted definió: una categoría de una lista fija, un número, o un sí o no. La ficha del modelo en Hugging Face describe Laya como una cabeza de decisión añadida a una base ModernBERT-large, y no como un modelo de conversación con reglas añadidas después. TypeSafe construyó Jev del mismo modo. La empresa lo entrenó con un método que llama Reinforcement Learning for Calibrated Decisions, en lugar del método usado para entrenar modelos de conversación.

La confianza es la otra mitad de la idea, y ahí ambos modelos se muestran más francos que la mayoría de los proveedores. Un modelo puede equivocarse y aun así estar bien calibrado, siempre que sus números de confianza sigan su acierto real. Los propios materiales de Laya informan de un error de calibración de 0,466 antes de cualquier ajuste. Ese número solo baja al 0,081 anunciado tras reajustar la temperatura para cada tipo de pregunta, con sus propios datos. Trátelo como un trabajo que todavía debe hacer, no como una propiedad que hereda al descargar los pesos.

La precisión exige el mismo cuidado. Laya obtiene 0,362 en su propia prueba sin ajuste previo. En esa misma prueba, adivinar al azar da 0,318, y responder siempre la alternativa más frecuente da 0,461. Ajustado con la partición de entrenamiento de esa prueba, el mismo modelo llega a 0,766. La ficha del modelo saca la conclusión ella misma: "Laya is a fast base to specialise, not a zero-shot decision engine."

ModeloCreadorCómo se obtieneLicenciaLatencia informada
JevTypeSafe AILista de espera, API alojadaCerrada70-500 ms de extremo a extremo, según TypeSafe
LayaConvai InnovationsDescargar los pesosApache 2.032,8 ms mediana en una Tesla T4, según Convai

Ambos modelos tropiezan de la misma forma cuando crece la lista de opciones. Según TypeSafe, Jev evalúa candidatos en dos etapas independientes cuando una pregunta tiene muchas opciones, hasta 255. El fundador de Laya, Nandakishor Mukkunnoth, marca un techo mucho más bajo para su propio modelo: "Choice questions degrade with more than 20 options." Un modelo de decisiones tipadas está pensado para un menú pequeño y fijo de respuestas, no para uno abierto. Compruebe usted mismo ese límite antes de confiar en cualquiera de los dos modelos para una pregunta con muchas respuestas posibles.

Qué cambió, y cuándo

TypeSafe introdujo la idea primero. Su modelo Jev, anunciado el 15 de septiembre, evalúa candidatos en dos etapas independientes cuando una pregunta tiene muchas opciones, hasta 255. Cobra 0,042 dólares por millón de tokens de entrada, con la salida gratis. El problema es el acceso. Jev está detrás de una lista de espera, y todavía no existe ningún test independiente de él.

Cuatro días después, Laya llegó como una respuesta de pesos abiertos a la misma idea. Tiene 421 millones de parámetros, una fracción del tamaño de la mayoría de los modelos de lenguaje, y se publica bajo la licencia Apache 2.0, que permite el uso comercial y la modificación. Cualquiera puede descargarlo, ejecutarlo en local y comprobar qué hace realmente. Eso no es algo que permita una API con lista de espera.

Esa diferencia de acceso es la verdadera noticia aquí. Un desarrollador no puede comprobar las afirmaciones de calibración de TypeSafe sin una invitación. Un desarrollador puede comprobar las de Laya esta misma tarde, con su propio hardware y sus propios datos.

Qué significa esto para los desarrolladores

Trate un modelo de decisiones tipadas como el reemplazo de una sola llamada dentro de una canalización, no de todo su modelo. La forma encaja con la clasificación, el enrutado, la clasificación por rangos y la selección de herramientas: cualquier paso donde un modelo ya existente devuelva una entre un pequeño conjunto de opciones. No encaja con nada que deba producir texto corrido, porque estos modelos simplemente no pueden escribir texto corrido.

Lea el número sin ajuste previo, no el ajustado, antes de comprometerse con cualquiera de los dos modelos. La diferencia entre el 0,362 y el 0,766 de Laya procede por completo de la partición de entrenamiento de una prueba. Si no puede etiquetar unos miles de ejemplos de su propia decisión, el número sin ajuste es el que predice lo que obtendrá en realidad.

Presupueste el trabajo de calibración antes de fiarse de un número de confianza de cualquiera de los dos modelos. Reajuste primero la temperatura por tipo de pregunta, con sus propios datos. Después registre confianza y resultado durante una semana, y compruebe si 0,7 significa de verdad el setenta por ciento. Los pesos abiertos de Laya le permiten hacer esa comprobación usted mismo, hoy. Con la lista de espera de Jev, confía en las cifras de TypeSafe hasta que consiga acceso.

Compruebe la licencia antes de construir más allá de un prototipo. Apache 2.0 le permite lanzar un producto construido sobre Laya. Las condiciones de Jev pertenecen a TypeSafe y solo se leen a través de la lista de espera, así que léalas con atención antes de planear un lanzamiento en torno a cualquiera de los dos modelos.

Las decisiones binarias y estrechas son el terreno donde un modelo de decisiones tipadas ya se muestra fuerte sin ningún ajuste. Las propias cifras de Laya sitúan el filtrado de correo basura en 0,993 y la detección de phishing en 0,980, ambas muy por encima de su puntuación general sin ajuste. Si su caso de uso se parece a alguno de esos, un modelo pequeño de decisiones tipadas puede ya superar a un modelo de conversación mucho más grande en coste y velocidad. Si se parece más a un juicio abierto, prevea el paso de ajuste desde el principio.

Fuentes

  1. Laya - 33ms Multilingual System 1 Decision Engine with Calibrated Probabilities - Convai Innovations
  2. convaiinnovations/laya model card - Hugging Face
  3. Introducing System One Models & Jev - TypeSafe AI

Artículos relacionados