Zum Inhalt springen

Microsoft MAI-Base-2 schließt Pre-Training mit 2,8 Billionen Parametern ab

Microsoft AI hat das Pre-Training von MAI-Base-2 abgeschlossen, einem Modell mit 2,8 Billionen Parametern, davon 80 Mrd. aktiv, auf 16.000 GB200-GPUs in 38 Tagen. Es ist noch nicht veröffentlicht.

Von

3 Min. Lesezeit

XLinkedIn

Maschinell übersetzt aus dem englischen Original, das Claire Whitmore auf Fakten geprüft und redigiert hat. Es gilt die englische Fassung. So arbeiten wir

Screenshot von Microsoft AIs Beitrag Frontier Pre-training at Microsoft AI vom 15. Oktober 2026, der MAI-Base-2 vorstellt.

Die Zahlen

total parameters, with 80B active per token
2.8T
Nvidia GB200 GPUs used for training
16,000
of pre-training in August and September 2026
38 days
claimed compute efficiency versus DeepSeek-V4-Pro-Base
4.2-12.3x

Microsoft AI hat das Pre-Training von MAI-Base-2 abgeschlossen, seinem nächsten hauseigenen Foundation Model, wie das Unternehmen am 15. Oktober 2026 mitteilte. Das Modell hat 2,8 Billionen Parameter, von denen pro Token 80 Milliarden aktiv sind. Laut Microsoft schlägt es jedes getestete Open-Weight-Modell und brauchte weit weniger Rechenleistung als ein führender Konkurrent. Es zeigt, dass Microsoft eigene Modelle im Frontier-Maßstab baut, neben den OpenAI-Modellen, die es bereits anbietet.

Pre-Training ist die erste und teuerste Phase beim Bau eines Sprachmodells. Das Modell liest Billionen von Wörtern und lernt, das jeweils nächste vorherzusagen. MAI-Base-2 ist jetzt im Post-Training, der Phase, die aus einem rohen Modell einen nützlichen Assistenten macht. Nutzen lässt es sich noch nicht.

Was Microsoft gebaut hat

MAI-Base-2 ist ein Mixture-of-Experts-Modell (MoE). Nur ein kleiner Teil des Netzes, die für jedes Token ausgewählten „Experten“, läuft zu einem bestimmten Zeitpunkt. Deshalb braucht ein Modell mit 2,8 Billionen Parametern pro Token nur die Arbeit von 80 Milliarden Parametern.

PunktMAI-Base-2
Parameter gesamt2,8 Billionen
Aktive Parameter pro Token80 Milliarden
TrainingshardwareRund 16.000 Nvidia-GB200-GPUs
Trainingsdauer38 Tage, im August und September 2026
Trainingsmix50 Billionen Tokens
Anteil Bild und Text18 %, aus 4,5 Billionen einzigartigen Tokens
StatusIm Post-Training, kein Veröffentlichungstermin

Das Modell lernte aus Bildern ebenso wie aus Text. Bild-Text-Daten machten 18 % des Mixes von 50 Billionen Tokens aus, laut Microsoft AIs Beitrag. Die Zahl der einzigartigen Trainingstokens stieg gegenüber dem Vorgänger MAI-Base-1 um rund 36 %.

Wie gut das Training lief

Microsoft nannte zwei Maße für die Effizienz. Die Model FLOPs Utilization, kurz MFU, lag im Schnitt bei 21 %. Sie ist der Anteil der Spitzenrechenleistung der GPUs, der in nützliches Training floss. Der Goodput lag bei 89 %. Das ist der Anteil der Zeit, der auf Training entfiel, statt auf die Erholung von Abstürzen und Neustarts.

Microsoft bezog auch öffentlich Stellung zu einem heiklen Thema. „Unser Pre-Training basiert auf organischen Daten, die keine Destillation aus anderen Modellen beinhalten“, heißt es im Beitrag. Destillation bedeutet, ein Modell mit den Antworten eines anderen Modells zu trainieren. Diese Woche beschrieb Anthropic neue Abwehrmaßnahmen gegen die Destillation von Claude.

Die Effizienzbehauptung

Die zentrale Zahl ist ein Vergleich mit DeepSeek-V4-Pro-Base, einem führenden offenen Modell. Laut Microsoft erreicht MAI-Base-2 dieselben Ergebnisse mit 4- bis 12-mal weniger Trainings-FLOPs. Im Haupttext des Beitrags wird die Spanne mit dem 4,2- bis 12,3-Fachen angegeben.

„MAI-Base-2 übertrifft jedes Open-Weight-Modell, das wir in unseren Held-out-Evaluierungen getestet haben“, schrieb Microsoft. Held-out-Evaluierungen sind Tests, die aus den Trainingsdaten herausgehalten werden. Es sind Microsofts eigene Tests, und keine externe Gruppe hat sie überprüft.

Wo es sich einordnet

Microsoft startete sein MAI-Programm öffentlich am 2. Juni 2026 auf seiner Konferenz Build, mit sieben Modellen, berichtet Crypto Briefing. Das Team ist Microsoft AI unter der Leitung von Mustafa Suleyman.

Der Sprung in der Größe ist beträchtlich. MAI-Base-1 wurde auf 8.192 GB200-GPUs und 30 Billionen Tokens von Menschen geschriebener Daten trainiert, plus 3,55 Billionen Tokens in einer späteren Phase. MAI-Thinking-1, das auf dieser Basis aufbaut, erreichte laut Crypto Briefing etwa 52,8 % auf SWE-Bench Pro, einem Coding-Test.

Microsoft baut auch eigene KI-Chips. Laut Crypto Briefing plant es ab 2027 Installationen von Maia-Chips im Multi-Gigawatt-Bereich. Wir haben diese Woche über den Maia-300-Chip berichtet. Die Arbeit an MAI-Base-3 hat laut Microsoft bereits begonnen.

Was das für Entwickler bedeutet

Heute gibt es nichts aufzurufen oder herunterzuladen. MAI-Base-2 ist ein Basismodell im Post-Training, und Microsoft hat weder einen Veröffentlichungstermin noch einen Preis genannt.

Achten Sie beim Start auf zwei Dinge. Prüfen Sie erstens, ob sich der Effizienzvorteil in niedrigeren Preisen auf Microsofts Plattformen zeigt. Ein Modell, dessen Training weniger kostet, kann auch im Betrieb weniger kosten, aber Microsoft hat nichts versprochen. Warten Sie zweitens auf externe Benchmarks. „Jedes Open-Weight-Modell, das wir getestet haben“ hängt davon ab, welche Modelle und welche Tests gemeint sind.

Für Teams, die auf Azure bauen, geht es vor allem um Auswahl. Ein von Microsoft trainiertes Frontier-Modell stünde auf derselben Plattform neben den Modellen von OpenAI. Wenn Sie Ihren Code an eine Modellfamilie gebunden haben, halten Sie eine dünne Schicht zwischen Ihrer App und dem Modell. So können Sie MAI-Modelle mit Ihrer aktuellen Wahl vergleichen, sobald sie erscheinen.

Quellen

  1. Frontier Pre-training at Microsoft AI - Microsoft AI
  2. Microsoft finishes pre-training MAI-Base-2, its next in-house foundation model - Crypto Briefing

Ähnliche Artikel