KI-Halbleiterchips: Die Inferenz-Klippe

Die These, die der Markt noch nicht eingepreist hat

Der Schwerpunkt bei KI-Halbleiterchips wird sich bis 2027 vom Training zur Inferenz verlagern. Das klingt nach Meinung. Es ist Arithmetik.

Das Training eines Frontier-Modells geschieht einmal pro Generation. Inferenz geschieht milliardenfach pro Tag, jeden Tag, über die gesamte Laufzeit des Produkts. Die wiederkehrenden Kosten überschatten die einmaligen Kosten bei Weitem.

Der Konsens preist den Trainingsmoment ein. Die wiederkehrende Arbeitslast bestimmt die reale Ökonomie, und diese Arbeitslast begünstigt eine andere Art von Chip.

Warum der Konsens den falschen Rahmen hat

Analysten verfolgen Trainings-FLOPs und die vierteljährlichen Rechenzentrumsumsätze des dominierenden GPU-Anbieters. Diese Zahlen beschreiben die Gegenwart mit Präzision.

Die Kennzahl, die das nächste Regime vorhersagt, ist die Anzahl der pro Tag ausgelieferten Tokens. Dieses Volumen wächst exponentiell, während Anwendungen ausgeliefert werden, und es belohnt Silizium, das auf Durchsatz und Speicherbandbreite abgestimmt ist, statt auf Spitzenleistung beim Training.

Die 90 % der Analysten, die die Gegenwart richtig lesen, lesen das Tempo des Wandels falsch. Die Trainingsnachfrage ist unregelmäßig und episodisch. Die Inferenznachfrage ist kontinuierlich, und kontinuierliche Nachfrage lädt zu kundenspezifischem Silizium ein, das gebaut wurde, um die Kosten pro Token zu zerschlagen.

Der Mechanismus: warum das Ausliefern kundenspezifisches Silizium begünstigt

Training belohnt reine Flexibilität. Ein Modell in Entwicklung ändert häufig seine Form, daher verdient sich Allzweck-Hardware ihren Aufpreis.

Das Ausliefern belohnt das Gegenteil. Ein ausgeliefertes Modell ist festgelegt, seine Operationen sind bekannt, und ein Chip, der für genau diese Operationen entworfen wurde, gewinnt bei Stromverbrauch und Preis.

Das ist die kausale Triebkraft, keine als These verkleidete Korrelation. Wenn Arbeitslasten sich festlegen, schlägt spezialisiertes Silizium allgemeines Silizium bei den Kosten pro Ausgabe. Jede frühere Rechenwelle, von der Videokodierung bis zum Bitcoin-Mining, ging den Weg von CPU zu GPU zu ASIC. KI-Inferenz folgt demselben Weg, und das Ziel sind dedizierte Beschleuniger nahe an schnellem Speicher.

Die Kostenkurve, die niemand bestreitet

Kostenkurven im Silizium folgen einem Muster. Volumen treibt das Lernen, das Lernen treibt den Preis nach unten, und der Preisverfall zieht die Nachfrage nach vorn.

Solar bietet die Referenztrajektorie: Nach Angaben der IEA fielen die Modulkosten im Jahrzehnt von 2010 bis 2020 um rund 90 %. Rechenleistung folgt derselben Logik, verstärkt durch Architekturgewinne.

Nach breiten Branchenangaben sanken die Kosten für die Auslieferung der Ausgabe eines festen KI-Modells zwischen 2023 und 2025 um mehr als eine Größenordnung. Drei Kräfte trieben dies an: günstigeres Silizium, intelligentere Modellkompression und Chips, die für die Auslieferungsaufgabe gebaut wurden. Das ist eine Steigung mit drei Datenpunkten, also nenne ich es eine Trajektorie.

Das Klippen-Ereignis und sein Datum

Adoption steigt selten eine glatte Rampe hinauf. Sie bleibt flach, dann springt sie, wenn eine Kostenschwelle bricht.

Klippen-Ereignis: Die Inferenzausgaben übersteigen die Trainingsausgaben innerhalb der KI-Budgets der Rechenzentren bis 2027. An diesem Kreuzungspunkt ändert sich die Frage des Käufers von "wer trainiert am schnellsten" zu "wer liefert am günstigsten pro Token aus".

Diese einzige Frage leitet Dutzende Milliarden an Kapital um. Käufer, die auf Kosten pro Token optimieren, werden kundenspezifische Beschleuniger und Speicher mit hoher Bandbreite gegenüber Allzweck-Trainingshardware bevorzugen. Der Anbieter, der das Training besitzt, verliert seine Preismacht in dem Moment, in dem das Ausliefern zum dominierenden Posten wird.

Drei Kategorien, die sich bis 2028 verändern

Hier bewegt sich das Geld. Drei Gruppen ordnen sich rund um die Inferenzökonomie neu.

• Hyperscaler mit hauseigenem Silizium: Google TPU, Amazon Trainium und Inferentia, Microsoft Maia. Jedes Design reduziert die Abhängigkeit von handelsüblichen GPUs für die Auslieferung.
• Speicherhersteller: SK Hynix, Samsung und Micron profitieren von der Nachfrage nach Speicher mit hoher Bandbreite, da Inferenz ebenso bandbreitengebunden wie rechengebunden ist.
• Edge-Inferenz: Telefone, Autos und humanoide Roboter führen Modelle lokal aus und bringen eine neue Klasse energiesparender Beschleuniger in Milliarden von Geräten.

Der dominierende GPU-Anbieter behält die Trainingskrone noch jahrelang. Die Auslieferungskrone ist zu vergeben, und im Ausliefern liegt der wiederkehrende Umsatz.

Der gemeinsame Faden: Der Wert wandert zu demjenigen, der ein Token am günstigsten ausliefert, wo auch immer dieses Token ausgeliefert wird. Ich habe die parallele Migration bei Modellen in meiner Notiz zur Kommodifizierung von Foundation-Modellen kartiert.

Meine Position und was sie ändern würde

Meine Haltung ist eindeutig: Der Anteil des dominierenden GPU-Anbieters an den KI-Rechenausgaben wird sinken, während Inferenz zur Massenware wird, auch wenn sein absoluter Umsatz weiter steigt.

Absolutes Wachstum und Anteilserosion koexistieren. Ein Markt kann sich verdreifachen, während das Stück seines Marktführers schrumpft. Der Konsens verwechselt beides und liest Rekordumsätze als dauerhaften Burggraben.

Was mich umstimmen würde: eine Auslieferungsarchitektur, in der handelsübliche GPUs kundenspezifische ASICs bei den Kosten pro Token im großen Maßstab schlagen, anhaltend über zwei Produktgenerationen. Sollte das halten, überlebt der Burggraben und meine These scheitert. Ich beobachte dieses Verhältnis jedes Quartal.

Die Prognose

Hier ist die falsifizierbare Aussage. Bis Ende 2026 wird mindestens ein großer Hyperscaler berichten, dass hauseigenes Silizium die Mehrheit seiner internen KI-Inferenz-Arbeitslast bedient.

Zuversicht: Mittel. Dies ist eine Aussage zum Markttiming, daher stufe ich sie unter meinen Prognosen zur Hardware-Trajektorie ein. Die Richtung ist unvermeidlich. Das genaue Datum birgt Risiko.

Abbruchsignal: Sollten die drei größten Cloud-Anbieter jeweils offenlegen, dass handelsübliche GPUs bis 2026 den Großteil der Inferenz übernehmen, mit flachem oder fallendem hauseigenen Anteil, ist die These tot. Beobachte die Offenlegung, beobachte das Verhältnis.

Was jeder Entscheidungsträger jetzt tun sollte

Für den CTO: Überdenken Sie jeden Stack, der Trainingsklasse-GPUs für die Auslieferung voraussetzt. Für Inferenz optimiertes Silizium ändert Ihre Stückkostenökonomie. Modellieren Sie Ihre Kosten pro Token, dann vergleichen Sie handelsübliche GPUs mit dedizierten Beschleunigern über ein volles Jahr.

Für Venture- und Growth-Investoren: Die unmöglich erscheinende Wette ist kundenspezifisches Inferenz-Silizium und die Software, die es plant. Die Daten stützen sie, bevor der Markt es tut.

Für den Chief Strategy Officer: Ein Dreijahresplan, der an der heutigen Chip-Hierarchie verankert ist, setzt eine Welt voraus, die sich am Kreuzungspunkt auflöst. Für den Einkauf: Pausieren Sie jeden langfristigen GPU-Vertrag, der Sie für eine Inferenzzukunft in die Trainingsökonomie einsperrt. Lesen Sie meine verwandte Einschätzung zum Timing von Disruption, bevor Sie unterschreiben.