Das AGORÀ Briefing — Mittwoch, 16. September 2026

Guten Morgen Adam, und guten Morgen an alle, die zuhören. Der Essay von Dario Amodei trägt den Titel «We Must Pace the Frontier» und fordert die Labore auf, die Entwicklung der Frontier-Modelle zu verlangsamen. Es sind 3.800 Wörter mit einem Plan in drei Schritten. Der beginnt damit, dass Anthropic sich für externe Prüfer öffnet, mit demselben Zugang wie Mitarbeitende. Sam Altman, Elon Musk und Demis Hassabis haben innerhalb weniger Stunden ihre Unterstützung erklärt, wie HCAMag am 15. September berichtet. Das Weiße Haus hat die Sicherheitswarnungen als Schwindel abgetan. Anna Tavis, die das Human Capital Management Department an der NYU School of Professional Studies leitet, verschiebt die Frage. Die Labore diskutieren das Tempo der Fähigkeiten. Die Organisationen, die die Modelle kaufen, müssen das Tempo des Deployments diskutieren, denn das ist das Tempo, in dem sich die Menschen anpassen. Das erste Tempo ist technisch. Das zweite ist menschlich, und es wird im Büro entschieden, statt im Labor.

Hallo Adam. Zum Verkauf stand der gesamte Stack. Jensen Huang, CEO von Nvidia, hat auf der Dreamforce von Salesforce gesagt, «Sicherheit ist ein technisches Problem, statt ein juristisches Problem», und die Branche komme ohne neue Gesetze und neue Vorschriften aus. Dann hat er sich als Hersteller von Chips vorgestellt, und zugleich von Open-Source-Modellen, Agenten, Harnesses und Sandboxes: vom Silizium bis zur Software, die es steuert. Das Produkt ist sicher, weil der Hersteller dafür bürgt. Ohne die Konferenzsprache bleiben drei Aussagen. KI ist Hardware und Software, gebaut von Menschen, also bleibt sie unter menschlicher Kontrolle und unter den bestehenden Gesetzen. Der Markt bestraft von selbst, wer unsichere Produkte veröffentlicht. Jedes seriöse Unternehmen verschiebt die Veröffentlichung, bis es seinem eigenen Produkt vertraut. Laut TechCrunch hat Huang hinzugefügt, Geschwindigkeit und Sicherheit seien ein Scheingegensatz. Eine Debatte über Regulierung, verwandelt in ein Schaufenster.

Hallo zusammen, und hallo Adam. Im Jahr 1847 haben die Eisenbahnen die City trockengelegt. Nach dem Rausch von 1845 forderten die Eisenbahngesellschaften die Einzahlungen auf die gezeichneten Aktien ein, genau während das Schatzamt und die Getreideimporteure am selben Finanzplatz Kredit verlangten. Drei Anfragen, ein Sparvermögen. Historische Schätzungen setzen die Kapitalabrufe jenes Jahres über 40 Millionen Pfund an, nahe 7 Prozent des Nationaleinkommens. Der Zinssatz der Bank of England stieg auf 8 Prozent, und am 25. Oktober setzte die Regierung den Bank Charter Act von 1844 aus. Die Krise kam trotzdem, mit echten Eisenbahnen und echter Nachfrage nach Transport: Das Problem lag allein in der Finanzierung, der Vermögenswert selbst war gesund. Hundertneunundsiebzig Jahre später ist die Struktur identisch. Goldman Sachs schätzt, dass die Verschuldung im Zusammenhang mit KI rund 1 Prozent des globalen Bruttoinlandsprodukts erreichen könnte, und diese Nachfrage kommt zu ohnehin schweren öffentlichen Finanzierungsbedarfen hinzu, wie die Übersicht Hubbis Macro Corner vom 14. September dokumentiert. Das Sparvermögen ist eines, die ausgestreckten Hände sind drei.

Guten Morgen zusammen. Die Nebenbedingung ist das, was schiefgeht. Das Paper arXiv:2609.16680, geschrieben von Ye, He, Boshoff, Kuo und Li, stellt little m vor, einen KI-Agenten für die Formulierung von Modellen der industriellen Prozesssteuerung. Ein Repository mit Domänenwissen arbeitet zusammen mit einem LLM, das mit dem Nutzer im Dialog steht und Textspezifikationen und Anlagendiagramme in mathematische Optimierungsmodelle übersetzt. Die Prämisse ist bekannt: Laut Abstract verbraucht die Fertigung ein Drittel der globalen Energie, und die optimale Prozesssteuerung ist der wichtigste Hebel, um sie zu senken. Der technische Punkt liegt woanders. Dieselben Autoren schreiben, dass generalistische Large Language Models ungültige Nebenbedingungen einführen können, wenn sie kontinuierliche multiphysikalische Dynamiken modellieren. Der Agent entsteht, um diesen Fehler zu verringern: Er holt aus dem Repository die kanonischen Strukturen der Domäne, schlägt Variablen, Zielfunktion und Nebenbedingungen vor und liefert ein Modell zurück. Ohne Domänenwissen schreibt das Modell ungültige Nebenbedingungen. Mit dem Repository schreibt es weniger davon, und das Paper misst, wie viele.

Einen Gruß an alle, Adam. Es vergisst 1,5 Punkte, gegenüber 16,6 bei der klassischen Methode. Der Preprint heißt ReDraft, hat 37 Seiten und 18 Autoren und wurde am 15. September auf arXiv hinterlegt. Das Protokoll verwendet drei visuelle Aufgaben, Counting, Clock Reading und Jigsaw, auf den Varianten von Qwen2.5-VL mit 3 und mit 7 Milliarden Parametern. Die vorgeschlagene Methode gewinnt 56,9 Punkte auf der neuen Aufgabe und verliert diese wenigen Punkte auf den vorherigen Aufgaben. Das überwachte Fine-Tuning, auf denselben Daten, gewinnt 52,9 Punkte und verliert deutlich mehr. Das Verhältnis zwischen den beiden Verlusten beträgt das 11,3-Fache. Die Evidenz sagt etwas Präzises: Im kontinuierlichen Post-Training multimodaler Modelle hängt die Spannung zwischen Lernen und Bewahren vom Ziel ab, das für die Aktualisierung gewählt wird. Ein Detail wiegt schwer für die Interpretation: Zwei dieser Aufgaben starten beim Basismodell mit einer Genauigkeit nahe null. Vera hat die Folge mit dem Tempo eröffnet, in dem sich die Menschen anpassen. Hier wechselt das Modell das Ziel und bewahrt fast alles. Die Menschen müssen ihr neues Ziel erst noch finden.