FinOps für KI: Token-Kosten im Unternehmen messen und steuern

Zwei Jahre lang ließ sich die KI-Rechnung als Innovationsbudget verbuchen. Mit dem Schritt in den Betrieb wird sie zum laufenden Kostenblock. Laut Bitkom-KI-Studie 2026 setzen 57 % der Unternehmen ab 20 Beschäftigten KI ein, und 45 % wenden 2026 mehr Geld dafür auf. Gleichzeitig nennen 54 % der KI-Anwender schwer kalkulierbare Kosten als Hemmnis.

International zeigt sich dasselbe Bild. Nur 11 % der 396 Organisationen im Bericht von Mavvrik und Benchmarkit sagen ihre KI-Ausgaben auf ±10 % genau voraus (Juli 2026). Gartner erwartet, dass mehr als 40 % der Projekte mit KI-Agenten bis Ende 2027 eingestellt werden, wegen steigender Kosten, unklaren Nutzens oder unzureichender Risikokontrollen (Gartner, Juni 2025).

Dieser Leitfaden erklärt, wie Token-Kosten entstehen, was Modelle im September 2026 kosten, mit welchen sieben Hebeln Sie die Rechnung senken und wie Sie in 90 Tagen eine Kostensteuerung aufbauen, die Geschäftsführung und Fachbereiche verstehen.

FinOps für KI ist die Übertragung des FinOps-Ansatzes auf nutzungsabhängige KI-Kosten: IT, Finanzen und Fachbereiche steuern gemeinsam, was KI kostet und was sie dafür leistet. Die FinOps Foundation beschreibt FinOps als Arbeitsweise, in der Technik, Finanzen und Geschäftsverantwortliche Technologieausgaben gemeinsam und laufend steuern.

Bei KI ist das anspruchsvoller als bei klassischer Software. Eine Lizenz wächst mit der Zahl der Nutzer. Token-Kosten wachsen mit der Zahl der Anfragen, der Länge der Eingaben, dem mitgeschickten Kontext, der Zahl der Werkzeugaufrufe eines Agenten und der Länge jeder Antwort.

In der Praxis besteht FinOps für KI aus drei Schichten:

• Messen: Jeder Modellaufruf wird mit Eingabe-, Ausgabe- und Cache-Tokens erfasst und gekennzeichnet, etwa nach Team, Anwendungsfall und Modell.
• Zuordnen: Kosten landen bei den Teams, Anwendungsfällen oder Kunden, die sie verursachen.
• Optimieren: Modellwahl, Zwischenspeicher, Kontextlänge und Obergrenzen werden anhand der Daten angepasst.

Drei Abgrenzungen verhindern Missverständnisse. Eine TCO-Rechnung ist eine Planungsrechnung vor der Entscheidung, FinOps die laufende Steuerung danach. Der Einkauf verhandelt Konditionen je Vertragsperiode, FinOps beeinflusst Architekturentscheidungen im laufenden Betrieb. Und klassische IT-Kostenkontrolle misst Server und Speicher, FinOps für KI braucht Token-Daten je Anfrage, Nutzer und Anwendungsfall.

Token-Kosten ergeben sich aus der Zahl der verarbeiteten Tokens, getrennt nach Eingabe und Ausgabe, multipliziert mit dem Preis des gewählten Modells. Ein Token ist die Recheneinheit, in die Sprachmodelle Text zerlegen: meist Wortteile, einzelne Wörter oder Satzzeichen.

Vier Eigenschaften bestimmen die Rechnung:

• Eingabe und Ausgabe kosten unterschiedlich. Bei den Modellen in der Preistabelle unten kostet ein Ausgabe-Token das Fünf- bis Sechsfache eines Eingabe-Tokens.
• Kontext zählt als Eingabe. Mitgeschickte Dokumente, Gesprächsverläufe und Systemanweisungen werden bei jeder Anfrage erneut berechnet, sofern sie nicht zwischengespeichert sind.
• Denkschritte zählen als Ausgabe. Bei Reasoning-Modellen rechnen die Anbieter die internen Denkschritte als Ausgabe-Tokens ab, auch wenn der Nutzer sie nicht sieht. Mehr dazu im Beitrag zu Thinking Models.
• Tokens sind zwischen Anbietern nicht direkt vergleichbar. Deutsche Texte zerfallen wegen langer Wörter in mehr Tokens als englische, und jeder Anbieter zählt anders. Anthropic weist darauf hin, dass Claude-Modelle ab Version 4.7 für denselben Text rund 30 % mehr Tokens erzeugen als ihre Vorgänger (Anthropic, Preise). Vergleichen Sie deshalb Kosten je Anfrage, nicht Preise je Token.

Die Grundformel lautet: Monatskosten = Anfragen × (Eingabe-Tokens × Eingabepreis + Ausgabe-Tokens × Ausgabepreis) ÷ 1.000.000, mit Preisen je Million Tokens.

Annahmen: 150 aktive Beschäftigte stellen je 15 Anfragen pro Arbeitstag an 21 Arbeitstagen, also 47.250 Anfragen im Monat. Jede Anfrage enthält 4.000 Eingabe-Tokens (Frage, Anweisungen, Auszüge aus Dokumenten) und erzeugt 500 Ausgabe-Tokens. Das ergibt 189 Millionen Eingabe- und 23,625 Millionen Ausgabe-Tokens pro Monat.

Je aktiver Person sind das zwischen rund 0,44 US-Dollar (GPT-5.6 Luna) und rund 20,48 US-Dollar (GPT-6 Astra) im Monat. Ein Modellmix verändert die Rechnung stärker als jede Preisverhandlung: Laufen 70 % der Anfragen auf GPT-5.6 Luna, 25 % auf Claude Sonnet 5 und 5 % auf Claude Opus 5, sinken die Kosten auf rund 277 US-Dollar im Monat. Das sind rund 82 % weniger als mit Opus 5 für alle Anfragen.

Ob ein kleines Modell für eine Aufgabe reicht, zeigt allerdings erst ein Test mit Ihren eigenen Fällen. Die Rechnung vereinfacht außerdem, denn die Anbieter zählen denselben Text unterschiedlich.

KI-Kosten steigen, weil mehr Menschen KI im Alltag nutzen, weil der größte Teil der Kosten bei jeder einzelnen Anfrage entsteht und weil Agenten pro Vorgang ein Vielfaches an Tokens verbrauchen. Die folgenden Kennzahlen zeigen die Entwicklung.

Drei Entwicklungen erklären diese Zahlen. Erstens die Breite: Innerhalb von zwei Jahren wurde KI vom Thema einzelner Teams zur Aufgabe fast aller FinOps-Teams. Laut Linux Foundation ist das Management des KI-Nutzens inzwischen die Fähigkeit, die Teams am dringendsten aufbauen wollen.

Zweitens die Inferenz: Die laufenden Kosten entstehen bei jeder Anfrage, nicht beim Training der Modelle. Jede zusätzliche Person und jeder längere Kontext erhöht die Rechnung.

Drittens die Agenten: Ein Chat ruft das Modell pro Frage ein- oder zweimal auf. Ein KI-Agent plant, ruft Werkzeuge auf und prüft Zwischenergebnisse. Laut Bitkom setzen 11 % der Unternehmen bereits Agenten ein, weitere 29 % planen es. Wer 2026 Agenten in den Betrieb bringt, sieht das auf der Rechnung.

Die meisten Kostensprünge gehen auf vier Muster zurück: unterschätzte Ausgaben, zu viel Kontext, Agenten ohne Grenzen und Nutzung, die niemand zuordnet.

• Ausgabe-Tokens werden unterschätzt. Ausgaben kosten das Fünf- bis Sechsfache der Eingaben, bei Claude Opus 5 etwa 25 statt 5 US-Dollar je Million Tokens. Ausführliche Antworten und lange Denkschritte von Reasoning-Modellen treiben die Rechnung, ohne dass es auffällt.
• Zu viel Kontext. Eine schlecht eingestellte Dokumentensuche (RAG) schickt pro Frage viele Seiten mit, die für die Antwort nicht nötig sind. Sehr lange Eingaben können zusätzlich teurer werden: OpenAI berechnet für lange Kontexte den doppelten Eingabepreis, Google bei Gemini 3.1 Pro Preview oberhalb von 200.000 Tokens 4 statt 2 US-Dollar Eingabe und 18 statt 12 US-Dollar Ausgabe. Anthropic rechnet das Kontextfenster von einer Million Tokens zum Normaltarif ab.
• Agenten ohne Abbruchkriterium. Ohne Grenze für Durchläufe und Tokens je Vorgang läuft ein Agent weiter, auch wenn das Ergebnis längst genügt.
• Nutzung ohne Zuordnung. Im Bericht von Mavvrik und Benchmarkit erfassen nur 36 % der Organisationen ihre agentischen Anwendungen im Kostenreporting und nur 42 % ihre KI-Werkzeuge für Entwickler. Private Konten und Einzelabos tauchen gar nicht auf. Mehr dazu im Beitrag zu Schatten-KI.

Nicht jede Überraschung liegt beim Modell: Die häufigste Quelle unerwarteter KI-Kosten waren im selben Bericht Mehrkosten bei Datenplattformen (47 %), knapp vor den Token-Kosten der Sprachmodelle (43 %).

Die Preise reichen von 0,20 bis 10 US-Dollar je Million Eingabe-Tokens, also um den Faktor 50. Die Tabelle zeigt ausgewählte Modelle der drei großen Anbieter nach Preisklassen, Stand 14. September 2026.

Vier Beobachtungen sind für die Planung wichtig:

1. Der Preisabstand zwischen den Klassen ist groß. Bei OpenAI liegt zwischen GPT-5.6 Luna und GPT-6 Astra ein Faktor 50 bei der Eingabe, bei Anthropic zwischen Claude Haiku 4.5 und Claude Fable 5.1 ein Faktor 10. Für Klassifizieren, Extrahieren oder kurze Zusammenfassungen reicht oft ein Modell der günstigen Klasse. Prüfen Sie das mit eigenen Testfällen.
2. Zwischengespeicherte Eingaben kosten rund 10 % des Normalpreises, bei Claude Fable 5.1 sogar nur 2,5 %.
3. Preise sind nicht dauerhaft. Google verdoppelt den Preis von Gemini 3.8 Flash zum 1. Januar 2027. Anthropic hat dagegen den Einführungspreis von Claude Sonnet 5 zum Standardpreis gemacht und die für den 1. September 2026 angekündigte Erhöhung gestrichen.
4. Datenresidenz kann Aufschläge kosten. Regionale Endpunkte für Claude-Modelle kosten bei Amazon Bedrock und Google Cloud 10 % mehr als globale Endpunkte. Kalkulieren Sie den Verarbeitungsort mit.

Welches Modell für welche Aufgabe passt, vergleicht der LLM-Vergleich 2026.

Die wirksamsten Hebel setzen an Kontext, Modellwahl und Antwortlänge an. Die folgende Reihenfolge berücksichtigt Aufwand und Wirkung.

Wie Sie die Qualität messen, während Sie Modelle und Kontext verändern, beschreibt der Leitfaden zu KI-Evaluation und Beobachtbarkeit. Wie viele Modelle Sie überhaupt brauchen, klärt der Beitrag zur Multi-Modell-Strategie.

Die Steuerung von KI-Kosten reift in vier Stufen, von fehlender Sicht auf Tokens bis zu KI-Kosten als Geschäftskennzahl. Die FinOps Foundation arbeitet mit drei Reifegraden (Crawl, Walk, Run). Für KI-Kosten lässt sich daraus eine Einteilung in vier Stufen ableiten, die eine ehrliche Standortbestimmung erlaubt.

Der schwierigste Schritt ist der von Stufe 2 zu Stufe 3. Bis dahin genügt ein Bericht. Ab Stufe 3 müssen Entscheidungen auf Basis der Daten fallen. Dafür braucht es eine verantwortliche Person, Testfälle je Anwendungsfall und eine Kostenprognose vor jeder größeren Änderung.

Fünf Kennzahlen reichen, um KI-Kosten verständlich zu steuern: Kosten je Anfrage, Kosten je Ergebnis, Cache-Trefferquote, Modellmix und Prognosegenauigkeit. Zielwerte legen Sie je Anwendungsfall fest, nicht pauschal.

In 90 Tagen kommen Sie von fehlender Sicht zu einer Kostensteuerung mit ersten Einsparungen: 30 Tage messen, 30 Tage die einfachen Hebel umsetzen, 30 Tage die Verantwortung verankern. Der Plan ist eine Arbeitsweise, kein Werkzeugkauf. Die meisten Schritte gelingen mit den Funktionen der KI-Plattform oder mit offenen Werkzeugen.

Pexon Consulting nennt 20 bis 40 % Kostensenkung im ersten Quartal als typisches Ergebnis aus Projekten, in denen Kosten zugeordnet und Zwischenspeicher genutzt werden (Mai 2026). Die Größenordnung hängt vom Ausgangszustand ab. Wer ohne Messung direkt optimiert, sieht den Effekt nicht in den eigenen Zahlen.

Was bei der Einführung häufig schiefgeht:

• Erst ausrollen, später messen. Wer die Erfassung nachrüstet, kann nicht mehr nachvollziehen, wohin das Geld der ersten Monate geflossen ist.
• Alles auf das Spitzenmodell. Ein Team wählt das stärkste Modell, weil die Vorführung überzeugt hat, und prüft nie, ob ein günstigeres genügt.
• Caching als späte Optimierung. Ob sich Anfragen zwischenspeichern lassen, entscheidet der Aufbau der Anweisungen. Ein nachträglicher Umbau kostet doppelt.
• Agenten ohne Budget. Ein neuer Agent geht ohne Obergrenze in den Betrieb und läuft beim ersten Sonderfall in eine teure Schleife.
• Berichte nur an die IT. Laut State of FinOps 2026 berichten 78 % der FinOps-Teams an CTO oder CIO. Sieht die Geschäftsführung die Kosten nur auf der Rechnung, fehlt die Verbindung zum Nutzen.

Die KI-Verordnung verlangt keine Kostenkontrolle. Kosten- und Compliance-Steuerung brauchen aber dieselbe Grundlage: ein Verzeichnis aller KI-Anwendungsfälle. Wer ohnehin ein solches Register für Risiken und Pflichten führt, erfasst Kosten mit denselben Kennungen und spart sich eine zweite Inventur.

Praktisch heißt das: Das Plattformteam liefert die Erfassung, die Finanzabteilung Zuordnung und Prognose, die für KI verantwortliche Stelle das Register und die Risikoeinstufung. Alle arbeiten mit einer gemeinsamen Liste. Wie Sie Regeln und Zuständigkeiten festhalten, zeigt der Beitrag zur KI-Richtlinie im Unternehmen.

Plotdesk verbindet eine KI-Plattform mit einem Umsetzungsteam für den Mittelstand. Kostensteuerung ist dabei Teil der Plattform und kein nachträglich angebautes Werkzeug.

• Modelle je Team steuern. Plotdesk bindet mehr als 100 Modellvarianten aus zehn Provider-Typen an, von Spitzenmodellen bis zu offenen Modellen mit Inferenz in der EU. Welche Modelle ein Team nutzen darf, legen Sie zentral fest. So bleibt der Alltag auf günstigen Modellen, während ein Fachbereich für anspruchsvolle Analysen die Spitzenklasse erhält.
• Kosten sichtbar machen. Nutzungs- und Kostenanalysen zeigen, was je Team, Bereich und Modell anfällt, und die Kosten lassen sich pro Team steuern. Die Sicht, die Stufe 2 des Reifegrads verlangt, ist damit von Beginn an vorhanden.
• Anfragen standardisieren. Presets (Vorlagen mit Variablen) und Instructions (Verhaltensregeln je Organisation oder Team) helfen, Anweisungen einheitlich und Antworten kurz und strukturiert zu halten.
• Wissen gezielt anbinden. Silos als Wissensspeicher und Plotdesk Connect für ERP, Fileserver und Altsysteme liefern den passenden Kontext, statt ganze Ablagen in jede Anfrage zu kopieren.
• Betrieb mit klaren Regeln. Jedes Unternehmen erhält eine dedizierte Instanz in der EU oder im eigenen Tenant, mit DSGVO-konformem AVV, Single Sign-On, Rollen mit mehr als 40 Berechtigungen und Audit-Logs.

Plotdesk ersetzt kein Spezialwerkzeug für Entwicklerteams wie Langfuse und kein Cloud-Kostenmanagement. Die Plattform sorgt aber dafür, dass Modellwahl, Kosten und Rechte an einer Stelle zusammenlaufen. Das Umsetzungsteam baut die ersten Anwendungsfälle so auf, dass die Kosten je Ergebnis von Anfang an messbar sind. Die Grundlage dafür sind 1.200+ Use Cases in 15 Branchen.

FinOps für KI ist keine Disziplin nur für Konzerne. Sobald KI im Betrieb läuft, entstehen Kosten bei jeder Anfrage, und sie wachsen mit Nutzung, Kontext und Agenten. Drei Punkte zum Mitnehmen:

1. Messen Sie ab dem ersten Tag, je Team, Anwendungsfall und Modell. Ohne diese Sicht bleibt jede Optimierung eine Vermutung.
2. Nutzen Sie die dokumentierten Hebel. Caching, Batch-Verarbeitung, passende Modellwahl und kurze Antworten senken die Rechnung laut Pexon Consulting im ersten Quartal typischerweise um 20 bis 40 %.
3. Berichten Sie in Ergebnissen, nicht in Tokens. Die Kosten je Vorgang im Vergleich zur manuellen Bearbeitung sind die Zahl, die Entscheidungen möglich macht.