Die Flexibilitätsfalle: Beliebige Generierungsreihenfolge in Diffusions-LLMs schadet dem Reasoning — JustGRPO erreicht 89,1 % auf GSM8K

Forscher der Tsinghua University und der Alibaba Group haben gemessen, dass die beliebige Token-Reihenfolge — das charakteristische Architekturmerkmal von Diffusions-Sprachmodellen — die Reasoning-Leistung aktiv verschlechtert: 21,3 % der HumanEval-Aufgaben sind ausschließlich mit autoregressiver Reihenfolge lösbar, während der umgekehrte Fall lediglich 0,6 % ausmacht. Das Ergebnis wurde mit dem Outstanding Paper Award des ICML 2026 ausgezeichnet — einer von zwei Preisträgern aus 53 Kandidaten — und die Lösung ist bereits öffentlich: das Training mit Standard-GRPO auf festen Links-nach-rechts-Sequenzen (JustGRPO) anstelle von RL mit beliebiger Reihenfolge erreicht 89,1 % auf GSM8K bei vollständig erhaltenem Paralleldecodierungs-Durchsatz.

Wie beliebige Reihenfolge das Schlussfolgern untergräbt

Diffusions-Sprachmodelle (dLLMs) haben das Interesse von Unternehmen durch eine spezifische Fähigkeit geweckt: die parallele Token-Generierung, die gegenüber der sequenziellen autoregressiven Dekodierung Durchsatzvorteile bietet. Die zentrale These der dLLM-Forschung lautete, dass die Freiheit, Token in beliebiger Reihenfolge zu generieren — der Mechanismus, der Parallelismus ermöglicht — auch das Schlussfolgern verbessere. Zanlin Ni, Shenzhi Wang und neun Koautoren von Tsinghua und Alibaba haben diese These direkt überprüft.

Ihre Analyse konzentriert sich auf sogenannte "Gabelungstoken": hochentropische Konnektive — Therefore, Thus, Since, Let, Solving, Notice —, die logische Trajektorien in unterschiedliche Schlussfolgerungsäste lenken. Bei der Generierung in beliebiger Reihenfolge verzögern Modelle diese Token systematisch. Wenn das Modell schließlich zu diesen Positionen zurückkehrt, ist der umgebende Kontext bereits geschrieben und die Entropie an diesen Stellen ist kollabiert. Das Paper identifiziert dies als strukturellen Mechanismus: der bloße Akt, hochentropische Token zu verschieben, eliminiert das Verzweigungspotenzial, das Chain-of-Thought-Reasoning produktiv macht.

Die Abdeckungsdaten sind eindeutig. Auf HumanEval mit k=1.024 Stichproben sind 21,3 % der Aufgaben ausschließlich mit autoregressiver Reihenfolge lösbar; der umgekehrte Fall — Aufgaben, die lediglich mit beliebiger Reihenfolge lösbar sind — macht 0,6 % aus. Die Ausgaben der beliebigen Reihenfolge bilden, in der Formulierung der Forscher, eine nahezu strikte Teilmenge der autoregressiven. Die Flexibilität, die dLLMs als Reasoning-Vorteil vermarkten, erweist sich als Einschränkung der Lösungsvielfalt.

Das Team bestätigte, dass der Mechanismus kontinuierlich ist. Durch Variation der semi-autoregressiven Blockgröße B über einen Bereich von Ordnungsfreiheit fanden die Forscher eine monotone Verschlechterung: Pass@k sinkt mit wachsendem B konsistent über k ∈ {8, 32, 128} und alle vier Benchmarks (GSM8K, MATH-500, HumanEval, MBPP). Der Effekt hält bei jedem getesteten Parallelismusgrad an und generalisiert über Aufgabendomänen — Code, Mathematik und Grundschularithmetik gleichermaßen.

JustGRPO adressiert die Trainingsursache direkt. Die Methode wendet Standard-GRPO auf die autorregressive Faktorisierung ausschließlich während des RL-Trainings an, während Architektur und Diffusions-Inferenzverfahren unverändert bleiben. Die Inferenz bleibt vollständig parallel. Trainiert in 125 Schritten auf 16×H100-GPUs mit Lernrate 5×10⁻⁶ und Gruppengröße 16, erreicht JustGRPO 89,1 % auf GSM8K und 45,1 % auf MATH-500. Diffusionsspezifische RL-Methoden erzielen deutlich geringere Werte: ESPO 82,3 % / 39,0 %, SPG 86,1 % / 40,0 %, d1 81,1 % / 38,6 % und GDPO 82,8 % / 39,6 %.

Der Paralleldecodierungs-Vorteil wächst — er bleibt vollständig erhalten. Gemessen mit dem Entropy Bounded Sampler bei steigenden Parallelismusgraden wächst JustGRPOs Genauigkeitsvorsprung gegenüber den Baselines mit zunehmendem Durchsatz: Auf MBPP steigt die Marge von +10,6 % bei einem Token pro Schritt auf +25,5 % bei etwa fünf Token pro Schritt. Eine praktische Variante, JustGRPO-Fast, konzentriert die Wahrscheinlichkeitsverhältnisberechnung auf die 25 % der Positionen mit der höchsten Entropie, eliminiert 75 % der zusätzlichen Forward-Evaluierungen und erzielt gleichwertige oder überlegene Genauigkeit im Wall-Clock-Vergleich.

Warum Unternehmen bei der dLLM-Evaluierung diese Zahlen brauchen

Diffusions-Sprachmodelle treten in Unternehmensbeschaffungsgespräche mit einer einzigen Architekturthese: schnellere Inferenz durch parallele Generierung. Kommerzielle Modelle der Mercury-Klasse und Gemini Diffusion positionieren Durchsatz als primäre Differenzierung. Der Geschwindigkeitsvorteil ist real — JustGRPO validiert und erweitert ihn. Das Outstanding-Paper-Komitee des ICML 2026 — elf Mitglieder, 53 Ausgangskandidaten, 22 in der engeren Auswahl — wählte diese Arbeit als eine von zwei ausgezeichneten Arbeiten: die wettbewerbsstärkste jährliche Konferenz des Feldes behandelt die Reasoning-Kosten der beliebigen Generierungsreihenfolge als empirisch geklärte Frage.

Die praktische Konsequenz für Unternehmensbewertungen ist direkt. Eine Lücke von 8 Prozentpunkten zwischen JustGRPO (89,1 %) und d1 (81,1 %) auf GSM8K ist eine Lücke, die RL-Training mit beliebiger Reihenfolge aktiv erzeugt. Für Reasoning-Workloads — mehrstufige Finanzanalyse, Code-Generierung in großem Maßstab, juristische Dokumentenprüfung — hat diese Lücke messbare Produktionskosten. Die Gabelungstoken-Analyse bietet ein diagnostisches Werkzeug: Entropie an logischen Konnektiven während der Generierung messen und Ausfüllraten zwischen beliebiger und autoregressiver Reihenfolge vergleichen. Ein Modell, das hochentropische Gabelungstoken verzögert, weist ein messbares Defizit an Lösungsvielfalt auf — unabhängig von seinem Architekturlabel.

Die Studie baut auf LLaDA-Instruct als Basismodell auf. Monotone Verschlechterung über vier Benchmarks und die Abdeckungsanalyse (21,3 % vs. 0,6 %) liefern Grundlagen dafür, den Befund als strukturelle Eigenschaft der Generierung in beliebiger Reihenfolge zu behandeln. Die Replikation auf MDLM-, Plaid- und Mercury-Architekturen bleibt eine offene empirische Frage — und eine, die nachgelagerte Beschaffungsentscheidungen von Anbietern einfordern sollten, bevor Reasoning-Benchmarks zum Nennwert akzeptiert werden.

Die strategische F&E-Frage

Die spezifische Frage für jedes Team mit einem dLLM auf der Roadmap: Setzt Ihre Reasoning-Evaluierung beliebige Generierungsreihenfolge voraus, und bewahrt Ihr RL-Fine-Tuning diese Annahme? Der 125-Schritte-Fix von JustGRPO — Code und Modelle öffentlich auf arXiv — stellt den vollen Paralleldecodierungs-Durchsatzvorteil wieder her und fügt 8 Reasoning-Punkte hinzu. Die Architekturwette, auf deren Basis dLLMs verkauft werden, erweist sich als trennbar von der Inferenzgeschwindigkeitswette, die sie kaufenswert macht. Den Geschwindigkeitsvorteil zu sichern erfordert, die Trainingsbeschränkung beizubehalten, die das Reasoning wiederherstellt.