Von Token Panic zu Kostenkontrolle

Drei Probleme, eine gemeinsame Ursache

In Unternehmen zeigen sich auf dem Weg dorthin fast immer dieselben drei Probleme.

Das erste ist ein Governance-Problem: KI-Werkzeuge werden als Experiment freigegeben, ohne die erforderlichen FinOps-Strukturen mitzudenken. Budgets, Verantwortlichkeiten und Kennzahlen bleiben offen, die Kosten laufen sofort auf und die Kontrolle folgt, wenn überhaupt, Monate später. Ein Experiment ohne Kostenverantwortung ist kein Experiment. Es ist eine offene Rechnung.

Das zweite ist ein Bewusstseinsproblem: AI FinOps ist als Disziplin bislang kaum etabliert. Viele Organisationen würden niemals eine Cloud ohne Kostensteuerung betreiben, gehen bei KI aber genauso vor. Ihnen ist noch nicht bewusst, dass es sich um dasselbe Problem handelt, nur in schnellerer Form. Diese Lücke dürfte sich ab 2027 rasch schließen. Unternehmen, die früh handeln, verschaffen sich einen echten Vorsprung.

Das dritte ist ein Problem des Wertbeitrags: Und es ist das folgenreichste. Kosten werden über Lizenzen und Tokenverbrauch bis hin zur Monatsrechnung zunehmend sichtbar. Der geschaffene Wert bleibt dagegen eine Blackbox. Unternehmen erkennen ihre Ausgaben, können aber weiterhin nicht sagen, ob sich die Investition trägt. Die Kosten zu sehen, ist ein Fortschritt. Es ist allerdings nur die Hälfte der Gleichung und dabei auch die einfachere.

Unter allen drei Problemen liegt dieselbe Ursache: Unternehmen haben eine verbrauchsabhängig abgerechnete Technologie wie ein Pauschalangebot behandelt. Alles Weitere ist die Rechnung für diese Annahme.

Manager stehen damit vor einer klaren Entscheidung. Sie können Token-Verbrauch weiterhin als unsichtbare Gemeinkosten behandeln und kurzfristige Bequemlichkeit bewahren. Oder sie steuern ihn als strategische Ressource und schaffen die Transparenz, die nötig ist, um KI kontrolliert zu skalieren.

Eine Cloud-Geschichte unter neuem Namen

• Was in der Debatte oft untergeht: Der größte Teil der KI-Ausgaben ist keine exotische neue Budgetposition. Es ist Cloud!

Gartner erwartet, dass allein die Ausgaben für KI-Infrastruktur von 965 Milliarden US-Dollar im Jahr 2025 auf fast 1,75 Billionen US-Dollar im Jahr 2027 steigen, und stellt damit mit Abstand den größten Anteil an den gesamten KI-Ausgaben dar (2). Jeder Token, den ein Modell verarbeitet, entspricht Rechenleistung in einem Rechenzentrum und wird nach Verbrauch abgerechnet. Speicher, Netzwerke, GPU-Kapazitäten und Inference Endpoints: Die Rechnung landet in denselben Cloud-Konten, die Finanzabteilungen bereits zuvor unter Kontrolle bringen wollten.

Genau deshalb braucht KI heute jene Disziplin, die die Branche in den vergangenen zehn Jahren für die Cloud aufgebaut hat. FinOps hat Unternehmen gelehrt, Ausgaben zu kennzeichnen, sie den verursachenden Teams zuzuordnen, Ressourcen passend zu dimensionieren, Budgets festzulegen und Kosten dort sichtbar zu machen, wo die Entscheidung fällt. Dieses Prinzip lässt sich übertragen. Aus Instanzen werden Modelle. Aus Instanzstunden werden Tokens. Aus reservierter Kapazität wird bereitgestellter Durchsatz.

• Die Grundgleichung bleibt unverändert: Kosten entstehen aus Preis mal Menge. Senken lassen sie sich, indem man eine der beiden Größen reduziert.

Organisationen, die Cloud FinOps bereits gut beherrschen, beginnen nicht bei null. Sie richten eine vorhandene Fähigkeit auf ein dynamischeres und weniger fehlertolerantes Umfeld aus. Das ist die gute Nachricht.

Die schlechte: KI bricht mit den vertrauten Gewohnheiten dieser Disziplin. Cloud-Preise waren vergleichsweise stabil und öffentlich bekannt. KI-Preise können sich schnell ändern – und nicht immer nach unten. Anthropic‘s Fable 5 kostet zehn US-Dollar pro eine Million Input-Tokens und fünfzig US-Dollar pro eine Million Output-Tokens. Damit liegt der Standardpreis doppelt so hoch wie bei Claude Opus 4.8 (5). Und das ist noch das gemäßigte Ende des Spitzenfelds. OpenAI GPT-5.5 Pro liegt bei dreißig US-Dollar pro eine Million Input-Tokens und hundertachtzig US-Dollar pro eine Million Output-Tokens. Das entspricht dem Drei- bis nahezu Vierfachen und lässt die Preise von Fable 5 fast zurückhaltend wirken (6).

Die stärksten Preissteigerungen verbergen sich mitunter nicht in der Preisliste, sondern in der technischen Mechanik. Neuere Modelle von Anthropic teilen denselben Text in rund 30 Prozent mehr Tokens auf als zuvor. Dieselbe Aufgabe erzeugt dadurch mehr abrechenbare Einheiten. Dieser Anstieg steht in der Entwicklerdokumentation, also dort, wo die meisten Finanzteams nie nachsehen werden (7).

Von Transparenz zu Leitplanken

Auslöser der aktuellen Unruhe war vor allem eine Veränderung der Abrechnung. Feste Abonnements werden zunehmend durch verbrauchsabhängige Modelle ersetzt. Jede Anfrage kostet Geld. Die Höhe hängt vom verwendeten Modell, dem mitgeführten Kontext und der Anzahl der Zwischenschritte ab, die ein Agent ausführt, bevor er stoppt. Bei autonomen Agenten kann sich eine einzelne Aufgabe in Dutzende abrechenbare Aufrufe auffächern. Die Kosten sind damit nicht mehr verlässlich vorab zu schätzen. Sie werden oft erst im Nachhinein sichtbar.

In unseren AI-FinOps-Projekten beginnt die Arbeit daher konsequent mit folgendem ersten Schritt: Transparenz schaffen, bevor ein weiteres Tool eingeführt wird.

Wir haben nicht mit einem Neukauf begonnen. Zunächst aktivierten wir vorhandene Kostensignale, die bislang unbeachtet geblieben waren: die laufende Kostenanzeige, die Auswertung je Sitzung und die exakte Kostenanzeige im Editor. Sobald Entwickler beobachten konnten, wie eine einzelne Sitzung in Echtzeit einen konkreten Betrag überschritt, änderte sich das Verhalten, ganz ohne neue Richtlinie. Kosten waren keine abstrakte Zahl mehr, die irgendwann auf einem fremden Schreibtisch landete. Sie wurden während der Arbeit spürbar. Das ist relevant, denn nur 53 Prozent der Unternehmen nutzen Kosten-Dashboards für KI und lediglich 40 Prozent definieren Nutzungsbudgets (3). Diese Lücke zu schließen, war der einfachste und günstigste Hebel – also setzten wir dort zuerst an.

Der zweite Schritt war die passende Dimensionierung. Entscheidend war eine direkte Frage: Braucht diese Aufgabe tatsächlich das teuerste Modell? In Projekten zeigte sich schnell, wie kostspielig es werden kann, standardmäßig das leistungsstärkste Modell auszuwählen. Deshalb führten wir Routing ein. Einfache Aufgaben wie Zusammenfassungen, Klassifizierungen und standardisierte Texte gingen an kleinere oder quelloffene Modelle. Anspruchsvolle Analysen und komplexer Code wurden bewusst an Modelle der Spitzenklasse weitergeleitet. Die Lehre daraus war nicht, dass KI grundsätzlich zu teuer ist. Wer für den Weg zum Bäcker einen Formel-1-Motor einsetzt, muss mit hohen Kosten rechnen.

Als dritter Schritt folgten Leitplanken. Ein gemeinsames Budget begünstigt eine Übernutzung durch Einzelne. Deshalb begrenzten wir den Verbrauch pro Nutzer und schufen zugleich einen klaren Prozess, um das Limit bei berechtigtem Bedarf anzuheben. Das ist eine Sicherung, keine Sanktion. Zusätzlich definierten wir Abbruchkriterien, damit ein Agent endet, sobald die fachlichen Anforderungen erfüllt sind. Ein Agent ohne klares Ende arbeitet weiter und verursacht weiter Kosten, lange nachdem sein Ergebnis bereits ausgereicht hätte. Außerdem reduzierten wir unnötig große Kontexte, denn überladener Kontext verbraucht Geld, bevor das Modell überhaupt mit der eigentlichen Aufgabe beginnt. Nichts davon war spektakulär. Alles davon war wirksam.

Das wichtigste Ergebnis war eine Verhaltensänderung. Die Modellauswahl war kein beiläufiges Element der Benutzeroberfläche mehr. Kosten rückten in den Entscheidungsprozess und zwar bereits in dem Moment, in dem ein Team festlegte, wie es ein Problem lösen will. Sie erschienen nicht länger erst am Monatsende als unangenehme Überraschung. Gleichzeitig veränderte sich die Diskussion: weg von der Frage, wie sich die Nutzung von KI begrenzen lässt, hin zu der Frage, wie sich aus jedem Token mehr herausholen lässt. Nur diese Diskussion führt weiter.

Mit der Zeit verändert dieses Verhalten auch die Architektur. Sobald Teams Modelle nicht mehr reflexhaft auswählen, wird Routing zu mehr als einem kurzfristigen Kostenhebel. Dahinter steht ein größeres Prinzip: Die Wahl des Modells entwickelt sich zu einer Architekturentscheidung mit langfristigen Folgen für Einkauf und Abhängigkeiten. Die Aufgaben innerhalb eines Agentensystems unterscheiden sich hinsichtlich der benötigten Reasoning-Leistung, Geschwindigkeit und Kosten. In industriellen Umgebungen summieren sich diese Entscheidungen über Entwicklung, Produktion, Beschaffung, Logistik und Aftersales hinweg. Eine einmalige Architekturentscheidung kann deshalb das Kosten- und Abhängigkeitsprofil von Tausenden wiederkehrenden Prozessen prägen.

Das Messproblem auf drei Ebenen

Transparenz, Routing und Leitplanken schaffen Kostenkontrolle. Sie beantworten jedoch noch nicht die entscheidende Frage: Hat das ausgegebene Geld einen messbaren Nutzen erzeugt? An diesem Punkt stößt die Disziplin an ihre Grenzen, und zwar auf drei Ebenen.

Erstens bleibt der tatsächliche Aufwand verborgen. Die Arbeit an Prompts, die Überarbeitung bis zu einem brauchbaren Ergebnis und die anschließende Qualitätsprüfung erscheinen auf keiner Lizenzrechnung. Sie binden dennoch reale Kapazitäten. Ein Werkzeug kann auf der Rechnung günstig wirken und zugleich unbemerkt einen ganzen Entwicklertag beanspruchen. Auch dieser Tag verursacht Kosten. Er hat nur keine eigene Kostenstelle.

Zweitens wird Effizienz häufig behauptet, aber selten nachgewiesen. Anbieter versprechen eine „zehnfache Produktivitätssteigerung“, aber kaum jemand misst, ob der erzeugte Code tatsächlich produktionsreif war oder ob der anschließende Prüf- und Überarbeitungsaufwand den Vorteil wieder aufgehoben hat. Eine so große Zahl müsste mit einer belastbaren Methode belegt werden. Das geschieht selten.

Drittens ist Qualität nicht konstant. Fable 5, GLM-5.2 oder GPT-5.5 können heute besseren Code liefern als in drei Monaten – oder schlechteren, je nach nächstem Update. Unternehmen fehlt eine stabile Vergleichsbasis. Selbst ein sorgfältiger Vorher-Nachher-Vergleich findet damit auf beweglichem Untergrund statt.

Zusammengenommen ergibt sich ein unangenehmes Bild: Die Branche verkauft Effizienz, die sie nicht zuverlässig messen kann. Unternehmen bezahlen dafür, ohne genau zu wissen, was sie erhalten. Dieses Verhältnis wird nicht dauerhaft tragen. Deshalb dürfte die Fähigkeit, Wert zu messen, bald wichtiger werden als die Fähigkeit, Kosten zu senken.

Der Wechsel des Anbieters ist nur ein Teil digitaler Souveränität. Echte Souveränität entsteht, wenn ein Unternehmen die wirtschaftlichen und operativen Folgen seiner Entscheidungen so gut versteht, dass es selbstbestimmt handeln kann.

Was KI-Kostensteuerung jetzt erfordert

Die Cloud hat diese Disziplin bereits einmal vermittelt: Ausgaben kennzeichnen, Ressourcen passend dimensionieren, Budgets festlegen und Kosten dort sichtbar machen, wo Entscheidungen getroffen werden. KI zeigt nun, ob Unternehmen daraus gelernt haben. Eine Organisation mit etablierten FinOps-Strukturen für die Cloud verfügt bereits über einen Großteil dessen, was sie benötigt. Nur die Messung ist schneller und Fehler werden teurer.

Die Lücken bei Governance, Bewusstsein und Wertmessung werden sich schließen, allerdings nicht überall gleich schnell. Genau darin liegt eine Chance. Ab 2027 ist AI FinOps keine rein administrative Aufgabe mehr. Die Disziplin wird zunehmend zwischen Unternehmen unterscheiden, die KI als strategische Ressource steuern, und solchen, die weiterhin dafür bezahlen, beschäftigt zu wirken. Spitzenmodelle sind für anspruchsvolle Aufgaben jeden Cent wert. Der Großteil der täglichen Arbeit liegt jedoch nicht an der technologischen Grenze. Entscheidend ist, diesen Unterschied zu erkennen und die Transparenz, Architektur und Leitplanken zu schaffen, um entsprechend zu handeln. Darin unterscheidet sich ein Team, das seine KI-Kosten beherrscht, von einem Team, das sie lediglich bezahlt.

Ein Produkt ist kein gutes Geschäft, wenn es den Eindruck von Fortschritt erzeugt, während Kosten und Nutzen im Dunkeln bleiben. Tokenmaxxing war eine Eitelkeitskennzahl, die wie Dynamik aussah. Was nun an seine Stelle tritt, wirkt weniger spektakulär, ist aber deutlich wertvoller: ein Unternehmen, das weiß, was es ausgibt, warum es das tut und welchen Gegenwert es erhält.

Der Vorstandsvorsitzende von Palantir, Alex Karp, formulierte bewusst provokant: Ein Produkt, das einem das Gefühl gibt, klug zu handeln, während das Unternehmen daran wirtschaftlich zugrunde geht, ist kein gutes Geschäft (8). Ganz unrecht hatte er damit nicht. Tokenmaxxing war eine Eitelkeitskennzahl im Gewand von Fortschritt. Was folgt, ist weniger aufregend, aber wesentlich wertvoller: ein Unternehmen, das weiß, was es ausgibt, warum es das tut und was es dafür zurückbekommt.

Quellen

1. OpenAI. „Intelligence at Work.“ OpenAI Livestream, Juli 2026. openai.com/business/intelligence-at-work/
2. Gartner. „Gartner Says Worldwide AI Spending Will Total $2.5 Trillion in 2026.“ 15. Januar 2026. www.gartner.com/en/newsroom/press-releases/2026-1-15-gartner-says-worldwide-ai-spending-will-total-2-point-5-trillion-dollars-in-2026
3. KPMG International. Global AI Pulse Q2 2026, Juni 2026. assets.kpmg.com/content/dam/kpmgsites/xx/pdf/2026/06/global-ai-pulse-q2.pdf
4. Citrini Research. „State of the Themes: June 2026“, Abschnitt „Token Panic“, 8. Juni 2026. www.citriniresearch.com/p/state-of-the-themes-june-2026
5. Anthropic. „Claude Fable 5: Availability and Pricing.“ Abgerufen am 22. Juli 2026. www.anthropic.com/claude/fable
6. OpenAI. „Introducing GPT-5.5.“ 23. April 2026. Siehe auch: OpenAI, „GPT-5.5 Pro Model“, OpenAI API Documentation. Abgerufen am 22. Juli 2026. openai.com/index/introducing-gpt-5-5/
7. Anthropic. „Token Counting.“ Claude Platform Documentation. Abgerufen am 22. Juli 2026. platform.claude.com/docs/en/build-with-claude/token-counting
8. CNBC. „Palantir CEO Alex Karp Slams OpenAI and Anthropic Over Token-Based AI Pricing.“ 1. Juli 2026. Abgerufen am 22. Juli 2026. www.cnbc.com/2026/07/01/palantir-karp-open-ai-anthropic-tokens.html