Zum Inhalt springen
This page is also available in English.View in English

Technologie · Modelle & Tools

KI-Kosten verstehen: Token, Kontext, Caching

KI-API-Kosten verstehen: die drei Preisfaktoren, eine Beispielrechnung und die fünf Hebel, mit denen du die Rechnung im Griff behältst.

Von Boaz Lichtenstein

Beitragsbild: KI-Kosten verstehen: Token, Kontext, Caching

Solange KI ein Abo für 20 Euro im Monat ist, ist die Kostenfrage langweilig. Interessant wird sie, sobald Unternehmen Modelle per API in Prozesse einbauen – dann skaliert die Rechnung mit jedem Aufruf, und Teams erleben ihre erste Überraschungs-Abrechnung. Die gute Nachricht: Die Kostenmechanik ist simpel, und die Hebel sind es auch.

Das Wichtigste in Kürze

  • Bezahlt wird pro Token – Input (Prompt plus Kontext) und Output (Antwort), wobei Output meist deutlich teurer ist.
  • Zwischen dem stärksten und dem günstigsten Modell eines Anbieters liegen typischerweise ein bis zwei Größenordnungen im Preis.
  • Der größte versteckte Kostentreiber ist mitgeschickter Kontext – Chat-Historien und ganze Dokumente, die bei jedem Aufruf erneut bezahlt werden.
  • Modell-Routing, Kontext kuratieren und Prompt-Caching sind die drei wirksamsten Hebel, in genau dieser Reihenfolge.
  • Wer Kosten pro Vorgang misst statt nur die Monatssumme zu lesen, erkennt Ausreißer, bevor sie zum Problem werden.

Die Mechanik: drei Preisfaktoren

Drei Faktoren bestimmen die Höhe jeder KI-Rechnung: die Menge an Token, die Modellklasse und die Größe des mitgeschickten Kontexts. Wer diese drei versteht, versteht die gesamte Kostenlogik hinter jedem API-Aufruf – der Rest ist Rechnen.

Token: Abgerechnet wird pro verarbeitetem Textbaustein – Input (alles, was du sendest, inklusive Systemanweisungen und Dokumenten) und Output (die Antwort), wobei Output deutlich teurer ist. Modellklasse: Zwischen dem stärksten und dem günstigsten Modell eines Anbieters liegen typischerweise ein bis zwei Größenordnungen im Preis – die wichtigste Einzelentscheidung überhaupt. Kontextmenge: Weil Modelle kein Gedächtnis haben, wird bei jedem Aufruf der gesamte relevante Kontext mitgeschickt und mitbezahlt – die Chat-Historie, die angehängten Dokumente, die Wissensbasis-Auszüge. Genau hier entstehen die meisten Überraschungen.

Beispielrechnung: Was ein Automatisierungs-Fall wirklich kostet

Eine einfache Beispielrechnung zeigt, wie stark die Modellwahl durchschlägt – oft stärker als jeder andere Hebel zusammen.

Ein Support-Team lässt 10.000 eingehende Anfragen im Monat automatisiert vorklassifizieren. Jede Anfrage bringt im Schnitt 300 Token Input (Text plus Systemprompt) und rund 50 Token Output (Kategorie plus kurze Notiz) mit – macht in Summe 3,5 Millionen verarbeitete Token im Monat. Nimm an, das günstige Modell kostet für diese Gesamtlast rund 20 Euro im Monat. Das Spitzenmodell desselben Anbieters käme – bei den typischen ein bis zwei Größenordnungen Preisunterschied – auf 200 bis 2.000 Euro, für ein Ergebnis, das bei einer reinen Klassifikationsaufgabe kaum messbar besser ausfällt. Die exakten Beträge hängen vom Anbieter und Tagespreis ab, die Größenordnung des Unterschieds ist aber typisch: Bei Standardaufgaben ist die Modellwahl der mit Abstand größte Kostenhebel – nicht Caching, nicht Batch-Verarbeitung.

Die fünf Hebel, sortiert nach Wirkung

  1. Modell-Routing: Nicht jede Aufgabe braucht das Spitzenmodell. Klassifikation, Extraktion und Standardtexte laufen auf günstigen Modellen fast gleich gut – das Router-Prinzip aus unserem Artikel zu Lokale KI vs. Cloud ist zuerst ein Kostenprinzip.
  2. Kontext kuratieren: Relevante Passagen statt ganzer Dokumente, begrenzte Chat-Historien, schlanke Systemprompts. Nebeneffekt: Präziser Kontext verbessert auch die Qualität – Context Engineering und Kostendisziplin sind dieselbe Übung.
  3. Prompt-Caching: Wiederkehrende Kontexte (Systemanweisungen, Wissensbasen) lassen sich bei den meisten Anbietern zwischenspeichern – identische Anteile kosten dann nur noch einen Bruchteil. Für Anwendungen mit festen Vorlagen oft der größte Einzelhebel.
  4. Batch statt Echtzeit: Wo Antworten nicht sofort nötig sind (Nachtläufe, Massenverarbeitung), bieten Anbieter deutliche Rabatte für gesammelte Verarbeitung.
  5. Output begrenzen: Knappe Zielformate („antworte als Tabelle, maximal X Zeilen“) sparen an der teuersten Token-Sorte – und erzwingen nebenbei präzisere Ergebnisse.

Modellklassen im Vergleich

Nicht jede Aufgabe braucht dieselbe Modellklasse – die grobe Einordnung hilft, bevor überhaupt ein konkreter Anbieter gewählt wird.

Modellklasse Typischer Preis relativ Typische Aufgaben Qualitätsanspruch
Günstige Klasse Basis (1×) Klassifikation, Extraktion, Formatierung Niedrig–mittel
Mittlere Klasse Grob 5–10× Zusammenfassung, Standardtexte, einfache Analyse Mittel
Spitzenklasse Grob 20–100× Komplexes Reasoning, Agenten, Code, Randfälle Hoch

Die Faustregel: Erst die Aufgabe einordnen, dann die Modellklasse wählen – nicht umgekehrt. Wer testen will, ob eine günstige Klasse reicht, prüft an zwanzig bis fünfzig realen Beispielen, ob die Qualität für den konkreten Fall ausreicht, statt sich auf ein Bauchgefühl zu verlassen. Ein häufiger Zwischenweg: die mittlere Klasse als Standard für alles setzen, was nicht eindeutig in die günstige Kategorie fällt, und nur bei nachgewiesenem Bedarf – nicht bei vermutetem – in die Spitzenklasse eskalieren. So bleibt die Rechnung beherrschbar, ohne bei jeder neuen Aufgabe eine eigene Kosten-Nutzen-Analyse aufsetzen zu müssen.

Die häufigsten Kosten-Fehler

Spitzenmodell für Standardaufgaben: Aus Bequemlichkeit läuft alles über das teuerste verfügbare Modell. Korrektur: Modell-Routing nach Aufgabentyp einführen.

Endlose Chat-Historien: Eine Konversation wird über Wochen fortgeführt, statt neu zu starten – die gesamte Historie wird bei jeder Nachricht erneut bezahlt. Korrektur: Konversationen bei Themenwechsel bewusst beenden.

Ganze Dokumente statt Passagen: Komplette PDFs wandern in jeden Aufruf, obwohl nur ein Absatz relevant ist. Korrektur: Kontext kuratieren statt anhäufen.

Kein Caching aktiviert: Wiederkehrende Systemprompts werden bei jedem Aufruf voll bezahlt, obwohl Caching verfügbar wäre. Korrektur: Caching-Option beim Anbieter aktiv prüfen und nutzen.

Nur die Monatssumme lesen: Ohne Aufschlüsselung nach Anwendungsfall bleibt unklar, welcher Prozess die Kosten treibt. Korrektur: Kosten pro Vorgang tracken, nicht nur die Gesamtrechnung.

Die Management-Sicht

Behandle KI-Kosten wie Cloud-Kosten: Kosten pro Vorgang messen (nicht nur die Monatssumme), Budgets und Alerts setzen, und bei jedem neuen Anwendungsfall die einfache Rechnung aufmachen – was kostet der Aufruf, was spart der Vorgang? Bei mehrstufigen KI-Agenten, die für eine Aufgabe mehrere Schritte hintereinander ausführen, multipliziert sich der Kontext-Effekt zusätzlich – jeder Schritt verarbeitet erneut die bisherige Historie, weshalb Agenten-Workflows besonders von kuratiertem Kontext und Caching profitieren. Die meisten produktiven KI-Fälle rechnen sich üppig; die Ausnahmen erkennt man nur, wenn man hinschaut.

Abo oder API: Wann sich was lohnt

Für Einzelpersonen und kleine Teams mit unregelmäßiger Nutzung ist ein Abo fast immer die richtige Wahl, für automatisierte Prozesse mit planbarem Volumen lohnt sich der Wechsel zur API. Die Entscheidung hängt an drei Fragen, nicht am Bauchgefühl.

Wann Abo: Die Nutzung ist manuell, unregelmäßig und über mehrere Aufgabenarten gestreut – ein Chat-Fenster für alles. Der feste Monatspreis ist hier ein Vorteil, weil er unabhängig vom tatsächlichen Verbrauch planbar bleibt.

Wann API: Eine Aufgabe wiederholt sich automatisiert (Klassifizieren, Zusammenfassen, Extrahieren), läuft ohne manuelles Chat-Fenster im Hintergrund und lässt sich in Vorlagen fassen. Hier zahlt sich die genauere Steuerung über Modellwahl, Kontext und Caching aus – Kosten, die bei einem pauschalen Abo unsichtbar blieben, werden hier direkt sichtbar und damit auch direkt senkbar.

Der Mischfall: Die meisten wachsenden Teams fangen mit einem Abo an und wechseln einzelne, klar abgegrenzte Prozesse schrittweise zur API, sobald sich ein Anwendungsfall als stabil und wiederkehrend erweist – nicht das gesamte Unternehmen auf einmal.

Unterm Strich

Teuer wird KI selten durch den Preis pro Token. Teuer wird sie durch Niemand-hat-nachgerechnet: das falsche Modell für eine einfache Aufgabe, die nie beendete Konversation, das ganze Dokument statt der relevanten Passage. Wer die drei Preisfaktoren kennt und die fünf Hebel in der richtigen Reihenfolge zieht – zuerst Modell-Routing, dann Kontext, dann Caching –, senkt die Rechnung meist um ein Vielfaches, ohne an Qualität zu verlieren. Der nächste konkrete Schritt: eine Woche lang Kosten pro Vorgang statt nur die Monatssumme protokollieren, dann zeigt sich der größte Hebel von selbst.

FAQ

Häufige Fragen

Was ist ein Token überhaupt?

Die Abrechnungseinheit der Sprachmodelle: ein Textbaustein von grob drei Viertel eines Wortes (im Deutschen wegen langer Komposita oft ungünstiger). Bezahlt wird alles, was rein- und rausgeht – dein Prompt samt mitgeschicktem Kontext (Input) und die Antwort (Output), wobei Output-Token meist ein Mehrfaches kosten. Die Rechnung wächst also mit der Menge an Material, das du dem Modell zeigst, nicht mit der Zahl deiner Fragen.

Was ist der größte versteckte Kostentreiber?

Der immer wieder mitgeschickte Kontext: In Chats wird die gesamte Historie bei jeder Nachricht erneut verarbeitet, in RAG-Systemen wandern oft ganze Dokumentenstapel in jeden Aufruf. Lange Konversationen und wahllos große Kontexte vervielfachen so die Kosten unbemerkt. Gegenmittel: Kontexte kuratieren, Konversationen neu starten statt endlos führen, und Prompt-Caching nutzen, wo der Anbieter es bietet.

Was kostet ein typischer KI-Chat im Monat für ein kleines Team?

Für einfache Nutzung über eine Abo-Oberfläche zahlst du einen festen Betrag pro Nutzer und Monat – überschaubar und planbar. Sobald ein Team stattdessen per API baut (eigene Tools, automatisierte Workflows), verschwindet die feste Grenze: Die Kosten hängen direkt von Aufrufhäufigkeit, Kontextgröße und Modellwahl ab. Ein kleines Team mit moderatem, kuratiertem Einsatz bleibt meist im niedrigen zweistelligen Euro-Bereich pro Monat – ohne Disziplin bei Kontext und Modellwahl kann dieselbe Nutzung ein Vielfaches kosten.

Lohnt sich Prompt-Caching auch für kleine Anwendungsfälle?

Ja, sobald derselbe Systemprompt oder dieselbe Wissensbasis öfter als ein paar Mal am Tag wiederverwendet wird. Der Effekt skaliert zwar mit dem Volumen, aber schon bei kleinen, wiederkehrenden Automatisierungen – etwa einer täglichen Berichtsauswertung mit fester Vorlage – lohnt sich das Aktivieren, weil es ohne Qualitätsverlust und ohne Zusatzaufwand Kosten spart.

Wie behalte ich als Nicht-Techniker den Überblick über KI-Kosten?

Verlange von jedem technischen Team drei Zahlen, keine Fachbegriffe: Kosten pro Vorgang (nicht nur die Monatssumme), das eingesetzte Modell pro Anwendungsfall und ob Caching aktiv ist. Diese drei Kennzahlen reichen, um Ausreißer zu erkennen, ohne die Token-Mechanik im Detail verstehen zu müssen – ähnlich wie man Cloud-Kosten überwacht, ohne Server-Administrator zu sein.