Recursive Flint: Offenes 40B-Codingmodell läuft auf dem Laptop

Das KI-Startup Recursive hat am 21. Oktober 2026 sein erstes Modell veröffentlicht: Flint. Flint ist ein Codingmodell mit offenen Gewichten, das auf dem eigenen Rechner von Entwicklern laufen soll, und seine Gewichte sind unter der Lizenz Apache 2.0 frei nutzbar. Laut Recursive läuft es auf einem MacBook Pro mit mehr als 125 Token pro Sekunde, schnell genug für einen Coding-Agenten, ohne Code an einen Cloud-Dienst zu schicken.

„Offene Gewichte“ bedeutet, dass jeder die trainierten Zahlen des Modells herunterladen und es ausführen kann. Ein Token ist ein kleines Stück Text, oft ein kurzes Wort oder ein Teil davon. Richard Socher stellte das Modell auf X vor, berichtet RuntimeWire.

Wie Flint aufgebaut ist

Flint ist ein Mixture-of-Experts-Modell (MoE). Statt eines großen Netzes enthält es viele kleinere „Experten“-Netze und führt für jedes Token nur einige davon aus. Dadurch ist es viel schneller, als seine Gesamtgröße vermuten lässt.

Laut seiner Modellkarte auf Hugging Face hat Flint insgesamt 39,8 Milliarden Parameter, die Recursive auf 40 Milliarden aufrundet. Etwa 2,5 Milliarden sind pro Token aktiv. Jede seiner 47 MoE-Schichten enthält 256 Experten, wählt pro Token 6 davon aus und führt zusätzlich jedes Mal einen gemeinsamen Experten aus.

Merkmal	Flint
Parameter insgesamt	39,8 Milliarden
Aktiv pro Token	Etwa 2,5 Milliarden
Schichten	49 (2 dicht, 47 MoE)
Kontextfenster	262.144 Token laut Modellkarte
Vollständiger Download	Etwa 80 GB (16-Bit-Gewichte)
Quantisierter Download	23 GB bei Ollama
Lizenz	Apache 2.0

Die Quellen unterscheiden sich bei der Kontextlänge, also der Textmenge, die das Modell auf einmal berücksichtigen kann. Modellkarte, LM Studio und Ollama nennen etwa 262.000 Token. Die Ankündigung von Recursive spricht von bis zu 512.000, empfohlen sind 256.000.

Laut Recursive hat ein kleines Team Flint in weniger als vier Monaten von Grund auf gebaut. Das Unternehmen schreibt seinem eigenen automatisierten Forschungssystem, der Eureka Machine, Arbeit an „nahezu jedem Teil“ der Entwicklung zu. Dazu gehören die Architektursuche, die Quantisierung und der Inferenzcode. Quantisierung verkleinert ein Modell, indem sie seine Zahlen mit weniger Bits speichert. Laut Recursive weicht die 4-Bit-Version in NVFP4 um höchstens 0,7 Punkte vom vollständigen 16-Bit-Modell ab.

Benchmarks und Geschwindigkeit

Recursive nennt in seiner Modellkarte diese Werte, jeweils als durchschnittliche Erfolgsquote beim ersten Versuch über mindestens fünf Durchläufe:

• SWE-bench Pro v2: 89,7%
• SWE-bench Verified: 74,2%, ein Test aus echten Fehlerberichten auf GitHub
• Terminal-Bench 2.1: 54,9%, Aufgaben in einem Kommandozeilen-Terminal

Das sind die eigenen Zahlen des Unternehmens, und die Modellkarte weist darauf hin, dass „Evaluierungs-Setups und Laufzeitumgebungen die Ergebnisse beeinflussen können“. Recursive gibt an, dass Flint bei Coding-Tests für Agenten unter den Mixture-of-Experts-Modellen mit weniger als 50 Milliarden Parametern führt. Zudem soll Flint mit dichten Modellen von 25 bis 40 Milliarden Parametern mithalten und dabei mehr als fünfmal so schnell laufen.

Die Geschwindigkeit hängt von Hardware und Kontextlänge ab. Recursive nennt mehr als 125 Token pro Sekunde auf einem MacBook Pro mit M4 Pro. Bei kurzen Kontexten nennt es mehr als 150 auf einem Nvidia RTX Spark mit 64 GB. OpenHands, das einen Open-Source-Coding-Agenten entwickelt, maß auf dem RTX Spark bei einem Kontext von 120.000 Token 100 oder mehr Token pro Sekunde.

Wo Flint läuft

Flint ist über die üblichen lokalen Werkzeuge erhältlich: Ollama, LM Studio, llama.cpp, Unsloth, vLLM und SGLang. Recursive hat außerdem eine eigene Inferenz-Engine namens rec veröffentlicht, abgestimmt auf die Chips M4 Pro, M5 Pro und M5 Max. Der Eintrag bei Ollama enthält Startbefehle für Claude Code, OpenCode, Hermes Agent und OpenClaw. Ollama lässt Claude Desktop bereits lokale offene Modelle nutzen, also passt Flint auch in dieses Setup.

OpenHands unterstützte Flint vom ersten Tag an. „Das neue Modell von Recursive ist für Coding- und Agenten-Workloads wirklich vielversprechend“, sagte Graham Neubig, Mitgründer und Chief Scientist von OpenHands. Das Modell ist auch bei OpenRouter verfügbar, einem Dienst, der viele Modelle über eine einzige API anbietet. Laut der dortigen Seite ist Flint aber noch nicht über das Routing innerhalb der EU verfügbar.

Crypto Briefing berichtet, Recursive habe 650 Millionen Dollar bei einer Bewertung von 4,65 Milliarden Dollar eingesammelt. Keine andere ausgewertete Quelle bestätigt diese Zahlen.

Was das für Entwickler bedeutet

Flint ist einen Test wert, wenn Sie einen Coding-Agenten möchten, der Ihren Code auf Ihrem eigenen Rechner lässt. Die Lizenz Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning, ohne Nutzungsgebühren für die Gewichte.

Prüfen Sie zuerst Ihren Arbeitsspeicher. LM Studio nennt 24 GB Arbeitsspeicher als Minimum, und der quantisierte Build bei Ollama ist ein Download von 23 GB. Laut Crypto Briefing ist der Einsatz als Agent auf Rechnern mit 48 GB praktikabel. Um das vollständige 16-Bit-Modell mit SGLang bereitzustellen, braucht laut Modellkarte jede Kopie eine Rechenzentrums-GPU vom Typ B300 oder H200.

Testen Sie es mit Ihrem eigenen Repository, bevor Sie den Benchmarks vertrauen. Nutzen Sie die von Recursive empfohlenen Einstellungen: Temperature 1.0, Top-p 0.95 und Top-k 20. Geben Sie ihm auch Raum zum Nachdenken. Die Modellkarte warnt, dass langes Schlussfolgern „das Ausgabebudget aufbrauchen kann, bevor eine Antwort fertig ist“, und empfiehlt für schwierige Probleme mindestens 32.768 Ausgabe-Token.

Testen Sie lange Kontexte selbst, da die Angaben zum Limit auseinandergehen. EU-Teams mit Vorgaben zur Datenresidenz sollten das Modell vorerst lokal ausführen statt über OpenRouter.