Saltar al contenido

Microsoft MAI-Base-2 completa el preentrenamiento con 2,8 billones de parámetros

Microsoft AI terminó el preentrenamiento de MAI-Base-2, un modelo de 2,8 billones de parámetros con 80.000 millones activos, en 16.000 GPU GB200 en 38 días. Aún no se ha lanzado.

Por

3 min de lectura

XLinkedIn

Traducido automáticamente del original en inglés, que Claire Whitmore verificó y editó. Prevalece la versión en inglés. Cómo trabajamos

Captura de pantalla de la publicación de Microsoft AI Frontier Pre-training at Microsoft AI, del 15 de octubre de 2026, que presenta MAI-Base-2.

En cifras

total parameters, with 80B active per token
2.8T
Nvidia GB200 GPUs used for training
16,000
of pre-training in August and September 2026
38 days
claimed compute efficiency versus DeepSeek-V4-Pro-Base
4.2-12.3x

Microsoft AI ha terminado el preentrenamiento de MAI-Base-2, su próximo modelo fundacional propio, según anunció la empresa el 15 de octubre de 2026. El modelo tiene 2,8 billones de parámetros, con 80.000 millones activos para cada token. Microsoft dice que supera a todos los modelos de pesos abiertos que probó y que necesitó mucha menos potencia de cálculo que un destacado rival. Muestra a Microsoft construyendo sus propios modelos a escala de frontera, junto a los modelos de OpenAI que ya ofrece.

El preentrenamiento es la primera etapa, y la más cara, de la creación de un modelo de lenguaje. El modelo lee billones de palabras y aprende a predecir la siguiente. MAI-Base-2 está ahora en postentrenamiento, la etapa que convierte un modelo en bruto en un asistente útil. Todavía no se puede usar.

Qué construyó Microsoft

MAI-Base-2 es un modelo de mezcla de expertos (MoE). Solo una pequeña parte de la red, los «expertos» elegidos para cada token, funciona en cada momento. Por eso un modelo de 2,8 billones de parámetros solo necesita el trabajo de 80.000 millones de parámetros por token.

ElementoMAI-Base-2
Parámetros totales2,8 billones
Parámetros activos por token80.000 millones
Hardware de entrenamientoUnas 16.000 GPU Nvidia GB200
Tiempo de entrenamiento38 días, en agosto y septiembre de 2026
Mezcla de entrenamiento50 billones de tokens
Proporción de imagen y texto18 %, de 4,5 billones de tokens únicos
EstadoEn postentrenamiento, sin fecha de lanzamiento

El modelo aprendió tanto de imágenes como de texto. Los datos de imagen y texto supusieron el 18 % de la mezcla de 50 billones de tokens, según la publicación de Microsoft AI. El número de tokens de entrenamiento únicos creció alrededor de un 36 % respecto a su predecesor, MAI-Base-1.

Cómo fue el entrenamiento

Microsoft compartió dos medidas de eficiencia. La utilización de FLOPs del modelo, o MFU, fue de un 21 % de media. Es la parte de la potencia de cálculo máxima de las GPU que se dedicó a entrenamiento útil. El goodput fue del 89 %. Es la parte del tiempo dedicada a entrenar, frente a la dedicada a recuperarse de fallos y reinicios.

Microsoft también fijó una posición pública sobre un tema delicado. «Nuestro preentrenamiento se basa en datos orgánicos que no implican destilación de otros modelos», dice su publicación. La destilación consiste en entrenar un modelo con las respuestas de otro modelo. Esta semana, Anthropic describió nuevas defensas contra la destilación de Claude.

La afirmación de eficiencia

La cifra principal es una comparación con DeepSeek-V4-Pro-Base, un destacado modelo abierto. Microsoft dice que MAI-Base-2 alcanza los mismos resultados con entre 4 y 12 veces menos FLOPs de entrenamiento. El cuerpo de la publicación da un rango de 4,2 a 12,3 veces.

«MAI-Base-2 supera a todos los modelos de pesos abiertos que probamos en nuestras evaluaciones reservadas», escribió Microsoft. Las evaluaciones reservadas son pruebas que se mantienen fuera de los datos de entrenamiento. Son pruebas de la propia Microsoft, y ningún grupo externo las ha verificado.

Dónde encaja

Microsoft lanzó públicamente su programa MAI el 2 de junio de 2026, en su conferencia Build, con siete modelos, informa Crypto Briefing. El equipo es Microsoft AI, dirigido por Mustafa Suleyman.

El salto de escala es grande. MAI-Base-1 se entrenó con 8.192 GPU GB200 y 30 billones de tokens de datos escritos por personas, más 3,55 billones de tokens en una etapa posterior. MAI-Thinking-1, construido sobre esa base, obtuvo alrededor de un 52,8 % en SWE-Bench Pro, una prueba de programación, según Crypto Briefing.

Microsoft también está desarrollando sus propios chips de IA. Planea despliegues de varios gigavatios de chips Maia a partir de 2027, según Crypto Briefing. Esta semana cubrimos el chip Maia 300. El trabajo en MAI-Base-3 ya ha comenzado, según Microsoft.

Qué significa esto para los desarrolladores

Hoy no hay nada que llamar ni descargar. MAI-Base-2 es un modelo base en postentrenamiento, y Microsoft no ha dado fecha de lanzamiento ni precio.

Cuando se lance, preste atención a dos cosas. Primero, compruebe si la ventaja de eficiencia se traduce en precios más bajos en las plataformas de Microsoft. Un modelo que cuesta menos entrenar puede costar menos servir, pero Microsoft no ha prometido nada. Segundo, espere a los benchmarks externos. «Todos los modelos de pesos abiertos que probamos» depende de qué modelos y qué pruebas.

Para los equipos que construyen sobre Azure, lo más importante es poder elegir. Un modelo de frontera entrenado por Microsoft estaría junto a los modelos de OpenAI en la misma plataforma. Si ha atado su código a una familia de modelos, mantenga una capa fina entre su aplicación y el modelo. Así podrá comparar los modelos MAI con su opción actual cuando lleguen.

Fuentes

  1. Frontier Pre-training at Microsoft AI - Microsoft AI
  2. Microsoft finishes pre-training MAI-Base-2, its next in-house foundation model - Crypto Briefing

Artículos relacionados