Der Preis für Inferenz auf GPT-3.5-Niveau fiel zwischen November 2022 und Oktober 2024 laut Stanford um mehr als den Faktor 280. Eine Unternehmensrechnung kann trotzdem steigen, wenn mehr Aufgaben, längere Kontexte und zusätzliche Modellaufrufe dazukommen. Der Unterschied zwischen Stückpreis und Gesamtnutzung erklärt, warum „die Modelle werden billiger“ und „unsere KI-Ausgaben steigen“ im selben Meeting zutreffen können.
Ich sehe das in Kundenprojekten jeden Monat. Jemand liest, dass die Token-Preise kollabiert sind, geht davon aus, dass die eigenen Kosten gleich abstürzen, und öffnet dann eine Rechnung, die das Gegenteil getan hat. Diese Verwirrung ist kein Buchungsfehler. Sie ist ein strukturelles Merkmal dessen, wie KI heute gebaut wird, und sobald du den Mechanismus siehst, kannst du planen statt dich überraschen zu lassen.
Die Zahl, die deine Rechnung hätte senken müssen#
Fang mit dem Kollaps an, denn er ist wirklich beeindruckend. Stanfords AI Index 2025 beziffert den Preis für GPT-3.5-Niveau zwischen November 2022 und Oktober 2024 auf rund 280-mal billiger, ein Sturz von etwa 20 Dollar pro Million Token auf rund 7 Cent. Das ist kein Tippfehler und kein Einzelfall. Epoch AI misst einen Rückgang von im Median fast 50-mal pro Jahr bei gleicher Leistung. Die Risikokapitalfirma a16z rechnet konservativer mit etwa 10-mal pro Jahr, und das ist immer noch schneller, als Rechenleistung in der PC-Ära oder Bandbreite während des Dotcom-Aufbaus fielen.
Die Spitze tat dasselbe in aller Öffentlichkeit. Als Anthropic im November 2025 Claude Opus 4.5 auslieferte, senkte es den Flaggschiff-Preis von 15 und 75 Dollar pro Million Input- und Output-Token auf 5 und 25, eine Reduktion von 67 Prozent in einem einzigen Release. Was danach passierte, ist der Teil, den die meisten übersehen. Anthropic hielt diesen Preis von 5 und 25 dann über Opus 4.6, 4.7 und 4.8 konstant, während das Modell immer besser wurde. Der Preis pro Token hörte auf zu fallen, und die Leistung stieg weiter, was eine eigene Art von Preissenkung ist.
Der Auslöser für vieles davon war Konkurrenz von unten. DeepSeek R1 landete im Januar 2025 bei 55 Cent pro Million Token und erreichte dabei rund 95 Prozent von OpenAIs o1, und die großen Labore reagierten mit Notpreis-Schritten. Mitte 2026 ist der Boden bemerkenswert. OpenAIs GPT-5.4-nano läuft bei 20 Cent Input und 1,25 Dollar Output pro Million. DeepSeek V4 Pro, ein Open-Weights-Modell, das du selbst hosten kannst, liegt nahe 44 Cent Input. Googles Gemini 3.5 Flash schlägt das Pro-Modell der Vorgeneration auf Agenten-Benchmarks bei 1,50 und 9 Dollar. Auf dem Papier war Intelligenz noch nie so billig zu mieten.
Warum die Rechnung stattdessen stieg#
Hier das Paradox in klaren Worten. Ein sinkender Preis pro Einheit garantiert keine sinkende Gesamtrechnung. Dafür müsste die Nutzung unverändert bleiben. Eine pauschale Steigerung der durchschnittlichen Unternehmensrechnung um 300 Prozent ist ohne benannte Erhebung und vergleichbaren Zeitraum nicht belastbar; entscheidend ist dein eigener Verbrauch aus Preisen, Tokenmengen und Aufrufzahlen.
Billigere Tokens können zusätzliche Nutzung ermöglichen. Ein ausdrücklich illustrativer Ablauf beginnt mit einem Prompt und einer Antwort; ein anderer erledigt dieselbe Aufgabe über mehrere Modellaufrufe für Planung, Werkzeuge und Prüfung. Retrieval kann zusätzlichen Referenztext in den Kontext bringen. Wie viele Calls und Tokens entstehen, hängt vom konkreten Ablauf ab. Dauerhaft laufende Systeme addieren außerdem Nutzung über die Zeit. Für die Kostenplanung zählen die gemessenen Werte deines Systems.
Der historische Preisrückgang bei gleicher Benchmark-Leistung ist keine Aussage darüber, wie viele Tokens dein heutiger Agent verbraucht. Eine günstigere Einheit kann durch mehr Aufrufe und größere Kontexte aufgewogen werden. Die Parallele zu Speicher und Bandbreite hilft als Erklärung: Effizienz kann neue Nutzung ermöglichen. Für ein API-Produkt musst du deshalb die Kosten pro erfolgreich erledigter Aufgabe messen, nicht nur den Listenpreis pro Token.
Die Flatrate-Ära ist gerade zu Ende gegangen#
Wenn du ein einzelnes Ereignis willst, das die Wende markiert, dann ist es GitHub Copilot. Am ersten Juni 2026 stellte GitHub jeden Copilot-Plan auf nutzungsbasierte Abrechnung um. Premium-Request-Einheiten wurden durch AI Credits zu einem Cent pro Stück ersetzt, abgerechnet gegen Input, Output und gecachte Token zum jeweils veröffentlichten Modellpreis. Das billigere Ausweichmodell, das früher Überlauf abfing, ist weg. Wenn deine Credits aufgebraucht sind, setzt du entweder ein Budget oder du hörst auf.
Der Grund, den GitHub nannte, ist der klarste Satz, den jemand über diese ganze Verschiebung geschrieben hat. Mit Agenten und Subagenten im Spiel, sagte das Unternehmen, "ist es jetzt üblich, dass eine Handvoll Anfragen Kosten verursacht, die den Planpreis übersteigen". Lies das noch einmal mit deinem eigenen Produkt im Kopf. Ein flaches Monatsabo setzt eine grob vorhersehbare Menge Arbeit pro Nutzer voraus. Agentische Software bricht diese Annahme, denn ein motivierter Nutzer, der einen Agenten auf ein schweres Problem ansetzt, kann an einem Nachmittag eine Monatsmarge verbrennen.
Jeder, der auf diesen APIs baut, lebt jetzt in der Welt, die GitHub gerade formalisiert hat. Anbieter teilen die Preise in Tarife für kurzen und langen Kontext. Sie verrechnen pro Tool-Call für Suche und Computer-Use. Sie verkaufen Priority-Spuren zum 2,5-Fachen des Basispreises und bieten Rabatte von bis zu 90 Prozent auf gecachten Input, um Architekturen zu belohnen, die Prompts wiederverwenden. Der flache All-you-can-eat-Plan war ein Produkt einer Zeit, in der ein Call ein Call war. Diese Zeit geht zu Ende, und dein eigenes KI-Produkt so zu bepreisen, als wäre sie es nicht, ist der Weg, an dem du aufwachst und deine schwersten Nutzer subventionierst.
Open Weights haben aufgeholt, und das ändert die Rechnung#
Die zweite Kraft, die die Ökonomie umformt, ist, dass die billige Option wirklich gut geworden ist. Die meiste Zeit der letzten drei Jahre hieß "Open Weights" so viel wie "fast so gut, wenn man die Augen zusammenkneift". Das stimmt an der Spitze nicht mehr. Auf dem Intelligenz-Benchmark von Artificial Analysis im April 2026 erreichten die besten offenen Modelle rund 54 gegenüber 60 für das stärkste geschlossene Flaggschiff, ein Abstand von wenigen Punkten statt einer Generation. Neun der dreizehn Modelle auf der Intelligenz-zu-Preis-Front sind Open Weights. Stanfords selber Index beziffert den Abstand zwischen dem besten US- und dem besten chinesischen Modell per März 2026 auf 2,7 Prozent, herunter von 17 bis 31 Punkten im Jahr 2023.
In der Praxis heißt das: du wählst nicht mehr zwischen einem teuren Modell, das funktioniert, und einem kostenlosen, das es nicht tut. Du wählst entlang einer Kurve, und der Großteil dieser Kurve ist jetzt brauchbar. Ein Modell wie DeepSeek V4 kommt mit einer Million Token Kontext, läuft zu einem Bruchteil der Spitzenpreise und lässt sich in deiner eigenen Infrastruktur hosten. Die strategische Frage war nicht mehr "können wir uns ein gutes Modell leisten", sondern "welches gute Modell passt zu dieser konkreten Aufgabe, bei diesem Volumen, unter diesen Datenschutz-Regeln".
Dieser letzte Halbsatz wiegt hier schwerer als anderswo. Für ein Unternehmen in der EU, das Kundendaten verarbeitet, ist die Möglichkeit, ein kompetentes Modell auf dem eigenen Server oder in einer privaten Cloud laufen zu lassen, nicht nur eine Kostenentscheidung, sondern eine Compliance-Entscheidung. Die Kostenrechnung für einen eigenen KI-Server sieht ganz anders aus, wenn die Alternative ist, regulierte Daten an eine fremde API zu schicken, und die Modelle, die das tragfähig machen, sind jetzt gut genug, dass der Kompromiss real ist statt theoretisch.
Der richtige Move ist das richtige Modell pro Aufgabe#
Eine Modellkaskade kann Kosten senken: Teste ein kleineres Modell für gut definierte Routineaufgaben und reserviere ein leistungsfähigeres Modell für Fälle, die es nachweislich brauchen. Der passende Anteil ergibt sich aus den Aufgaben und der gemessenen Qualität, nicht aus einer allgemeinen Quote von 80 bis 90 Prozent.
Die Trennlinie ist nicht Glanz, sie ist Aufgabenform. Klassifikation, Extraktion, Routing und kurze Zusammenfassungen sind genau das, was kleine Modelle heute gut können. Microsofts Phi-4-mini erreicht die Qualität eines weit größeren Modells bei strukturierter Extraktion und läuft dabei in 8 Gigabyte Speicher. Googles Gemma-4-Edge-Varianten sind multimodal und laufen auf einem Smartphone. Das sind keine Spielzeuge, das ist mögliche Werkzeuge für geeignete Routineaufgaben. Das Spitzenmodell verdient seinen Preis bei mehrstufigem Reasoning, der Synthese langer Dokumente und offener Agentenarbeit, wo die Eingaben breit und unvorhersehbar sind und 80 Prozent Genauigkeit nicht reichen.
Sinkende Preise helfen, aber die Rechnung hängt auch von Nutzung und Kontextgröße ab. Teste Modelle anhand von Qualität und Kosten pro erfolgreich erledigter Aufgabe. Metering, Routing und geprüfte Alternativen können Kosten und Abhängigkeiten begrenzen; sie garantieren keine Ausfallsicherheit bei Anbieteränderungen.
Was das wirklich bedeutet#
Die Kosten für Intelligenz werden weiter fallen, und deine KI-Rechnung wird ein echter Posten bleiben, und beides wird gleichzeitig wahr sein. Das ist kein Widerspruch, den man auflösen muss, es ist die Betriebsbedingung, für die man baut. Die Teams, die das verinnerlichen, bauen agentische Produkte mit Budget-Grenzen, Kaskaden-Routing und einem klaren Blick darauf, welches Modell auf welchen Schritt gehört. Die Teams, die warten, bis die Technik billig genug ist, um nicht mehr über Kosten nachdenken zu müssen, werden weiter von ihren Rechnungen überrascht, denn die Technik ist schon billig geworden, und die Überraschung ist strukturell.
Meine Vorhersage für die zweite Hälfte 2026 ist, dass "Modellstrategie" ein normaler Teil jedes ernsthaften KI-Baus wird, so wie "Datenbankwahl" es heute ist, und dass die Debatte um die Wrapper-Marge laut wird. Wenn ein Kunde sehen kann, dass ihn sein Token-Anteil dich 2 Dollar kostet, sieht ein flacher 24-Dollar-Plan plötzlich nach Aufschlag aus, und die Produkte, die überleben, werden die sein, die den Wert, den sie hinzufügen, von der Inferenz trennen, die sie durchreichen. Die Ära der billigen Modelle hat Kosten nicht irrelevant gemacht. Sie hat Kosten von einem Preis, den man nachschlägt, zu einer Entscheidung gemacht, die man baut, und das ist ein besseres Problem, solange man es tatsächlich als eins behandelt.
