Was sind Token bei KI?

Einfach erklärt

Ein Sprachmodell liest weder Buchstaben noch ganze Wörter, sondern Textbausteine. Diese Bausteine heißen Token. Häufige Wörter sind oft ein einziger Baustein, lange oder seltene Wörter wie „Rechnungseingangsbuch“ werden in mehrere Stücke zerlegt. Denken Sie an ein Taxameter: Bezahlt wird nach Strecke, nicht nach Fahrten. Bei KI-Diensten mit Abrechnung nach Verbrauch zählen die Token, die hineingehen, und die Token, die herauskommen.

Was das Kontextfenster ist

Das Kontextfenster ist der Schreibtisch des Modells. Was gleichzeitig darauf liegt, kann es bei einer Antwort berücksichtigen: Ihre Anweisungen, der bisherige Gesprächsverlauf, angehängte Dokumente und je nach Anbieter auch die Antwort selbst. Ist der Tisch voll, lehnt der Dienst die Anfrage ab oder ältere Teile des Gesprächs fallen herunter. Ein größerer Tisch hilft nicht automatisch. Liegt zu viel darauf, übersieht das Modell eher etwas.

Woran Sie es im Betrieb merken

• Die Rechnung eines KI-Dienstes steigt mit langen Anhängen und langen Gesprächen.
• In sehr langen Chats kann das Modell Vorgaben vom Anfang aus dem Blick verlieren.
• Eine Anwendung, die bei jeder Frage alle Handbücher mitschickt, zahlt bei jeder Frage für alle Handbücher.

Sinnvoller ist es, nur die passenden Abschnitte mitzuschicken. Das leistet RAG. Fragen Sie Ihren Dienstleister, wie viele Token eine typische Anfrage verbraucht und was das im Monat ergibt.

Was die Zahl nicht aussagt

Token sagen nichts über Qualität. Preise je Token lassen sich zwischen Anbietern und Modellen nur bedingt vergleichen, weil jedes Modell Text anders zerlegt. Derselbe Brief kann bei einem Modell deutlich mehr Token ergeben als bei einem anderen.

Tokenisierung

Verbreitet ist Byte Pair Encoding (BPE). OpenAI veröffentlicht seinen Tokenizer als Bibliothek tiktoken und gibt im Mittel etwa 4 Byte je Token an. Jedes Modell zählt mit seinem eigenen Tokenizer. Anthropic etwa nennt für seine Modelle ab Claude 4.7, die einen neueren Tokenizer verwenden, rund 30 Prozent mehr Token für dieselbe Eingabe als bei älteren Modellen (Stand Oktober 2026).

Für deutsche Texte fallen oft mehr Token an als für englische. Petrov et al. (NeurIPS 2023) haben dafür den Paralleltext FLORES-200 ausgewertet: Mit dem Tokenizer von ChatGPT und GPT-4 (cl100k_base) brauchte der deutsche Text 1,58-mal so viele Token wie der englische. Bei Abrechnung je Token steigen die Kosten im selben Verhältnis. Neuere Tokenizer können anders liegen, also selbst messen.

Token zählen

import tiktoken
enc = tiktoken.get_encoding("o200k_base")
print(len(enc.encode("Bitte prüfen Sie die Rechnung 2026-0815.")))

curl https://api.anthropic.com/v1/messages/count_tokens \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{"model": "<Modell-ID>", "messages": [{"role": "user", "content": "Bitte prüfen Sie die Rechnung."}]}'

Der Endpunkt von Anthropic antwortet mit input_tokens. Er ist kostenlos, hat eigene Anfragegrenzen und liefert eine Schätzung, die vom späteren Verbrauch leicht abweichen kann.

Kontextfenster und Abrechnung

Bei Anthropic zählen Systemprompt, alle Nachrichten samt Werkzeugergebnissen, die Werkzeugdefinitionen und die Ausgabe ins Kontextfenster. Übersteigt schon die Eingabe das Fenster, antwortet die API mit 400 und „prompt is too long“. Im Chat geht bei jeder Runde der ganze bisherige Verlauf erneut als Eingabe hinein.

Abgerechnet wird je Million Token, getrennt nach Ein- und Ausgabe. In der Preisliste von Anthropic kostet ein Ausgabe-Token das Fünffache eines Eingabe-Tokens (Stand Oktober 2026). Prompt Caching senkt die Kosten für einen gleichbleibenden Anfang: Bei Anthropic kostet ein Cache-Treffer bei den meisten Modellen ein Zehntel des Eingabepreises, das Schreiben in den Cache mit fünf Minuten Laufzeit das 1,25-Fache. OpenAI cacht automatisch und verlangt, dass der gesamte Anfang exakt übereinstimmt.

Typische Fehler

• Mit Wörtern kalkuliert. Die Umrechnung hängt von Sprache und Tokenizer ab.
• Zählung übertragen. Anthropic rät ausdrücklich davon ab, Zählungen eines älteren Modells für Kosten oder Kontextgröße eines neuen zu verwenden.
• Alles in jede Anfrage. Laut Anthropic sinken Genauigkeit und Erinnerung, je mehr Token im Kontext stehen. Die Kosten steigen trotzdem.
• Wechselndes vorn. Ein Zeitstempel am Anfang verhindert jeden Cache-Treffer. OpenAI rät, Gleichbleibendes an den Anfang und Wechselndes ans Ende zu stellen.
• Kein Platz für die Antwort. Auch die Ausgabe braucht Platz im Fenster. Erreicht sie bei Anthropic die Grenze des Kontextfensters, endet sie mit stop_reason: "model_context_window_exceeded".