Intelligence-Bericht

Inkling 2 Mini: Offenes Modell spart Token durch Layer-Wiederverwendung

Das offene Mixture-of-Experts-Modell durchläuft die Hälfte seiner Layer pro Token dreimal und erreicht bei einem Index das Niveau von Qwen3.8 27B – zu einem Bruchteil der Kosten.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

Inkling 2 Mini: Offenes Modell spart Token durch Layer-WiederverwendungIntelligence-Bericht

Was passiert ist

Inkling 2 Mini, ein neues offenes Modell von Thinking Machines, nutzt eine Looped-Transformer-Architektur, wie The Decoder berichtet. Statt jedes Token einmal durch sämtliche Layer zu schicken, leitet das Modell jedes Token in drei aufeinanderfolgenden Durchläufen durch einen Satz von 12 Layern – die Hälfte seiner insgesamt 24. Laut Unternehmen ermöglicht diese zusätzliche interne Rechenleistung dem Modell, Probleme zu durchdenken, ohne zusätzlichen Text auszugeben, sodass es mit weniger Token zu korrekten Antworten gelangen kann.

Thinking Machines beschreibt Inkling 2 Mini als Mixture-of-Experts-System mit insgesamt 26,4 Milliarden Parametern, von denen aufgrund des Loopings 5,4 Milliarden pro Token aktiv sind. Es verarbeitet Text und Bilder, unterstützt ein Kontextfenster von 1 Million Token und steht unter der Apache-2.0-Lizenz. Die Gewichte sowie eine Forschungsvariante mit einstellbarer Loop-Anzahl sind auf Hugging Face verfügbar; ausprobieren lässt sich das Modell im Tinker Playground.

In Benchmarks für agentisches Programmieren erzielt Inkling 2 Mini die höchsten Werte unter den offenen Modellen mit weniger als 100 Milliarden Parametern: 48,2 Prozent bei DeepSWE v1.1 und 46,5 Prozent beim Vals Index v2.2. Artificial Analysis bewertet es mit 20 Punkten auf seinem Intelligence Index – gleichauf mit Qwen3.8 27B, bei etwa einem Sechstel der Kosten und rund vierfacher Geschwindigkeit. Lokal läuft es auf Macs mit 32 GB Arbeitsspeicher oder mehr sowie auf Nvidias DGX Spark.

Hintergrund

Looped Transformer verfolgen stärkeres Reasoning, indem sie dieselben Layer wiederholt nutzen und pro Token mehr Rechenaufwand investieren, anstatt mehr Token zu erzeugen. Inkling 2 Mini tritt in einem umkämpften Segment offener Modelle unter 100 Milliarden Parametern an, in dem Neuerscheinungen anhand von Tests für agentisches Programmieren und unabhängigen Rankings wie dem Artificial Analysis Intelligence Index mit Systemen wie Qwen3.8 27B verglichen werden.

Artificial-Analysis-Profil

Hugging-Face-Profil

QuelleThe Decoder

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.