Glossareintrag
Wir denken. KI tippt mit.
Tokens sind die kleinsten Texteinheiten, mit denen künstliche Intelligenz (Artificial Intelligence) Sprache verarbeitet. Bevor ein Large Language Model (LLM) wie Claude, ChatGPT oder Gemini eine Eingabe liest, zerlegt ein Tokenizer den Text in diese Bausteine. Ein Token kann ein ganzes Wort sein, ein Wortteil, ein Satzzeichen oder ein Leerzeichen. Das gängigste Verfahren heißt Byte-Pair-Encoding (BPE) und fasst häufig vorkommende Zeichenfolgen zu jeweils einem Token zusammen. Kurze, häufige Wörter wie „und“ bleiben ein einziges Token. „Badezimmerkomplettsanierung“ zerfällt dagegen in acht Bruchstücke, und die liegen nicht dort, wo ein Mensch die Wortteile trennen würde: B | ade | zimmer | kom | ple | tt | san | ierung.
Für englischen Text gilt die Faustregel, dass ein Token ungefähr vier Zeichen oder 0,75 Wörtern entspricht. Deutscher Text benötigt durch lange zusammengesetzte Wörter gut 30 Prozent mehr Tokens für denselben Inhalt. An deutschen Geschäftstexten gemessen sind das rund 1,5 bis 1,7 Tokens je Wort. Dieser Aufschlag hängt am Vokabular des Anbieters, nicht an der deutschen Sprache. Mit dem älteren Tokenizer der GPT-4-Generation kostete derselbe deutsche Text noch fast sechzig Prozent mehr als seine englische Fassung, mit dem heutigen Vokabular hat sich der Abstand etwa halbiert. OpenAI beziffert die Verbesserung für Deutsch in der Sprachtabelle zum Wechsel auf GPT-4o mit dem Faktor 1,2. Wie viele Tokens ein Satz genau ergibt, hängt deshalb vom jeweiligen KI-Modell ab, denn jeder Anbieter entwickelt seinen eigenen Tokenizer. In englischsprachigen Preislisten und Dokumentationen stehen sie als AI Token oder schlicht als Tokens.
Ein Token ist damit eine Herstellerentscheidung und verschiebt sich auch innerhalb eines Anbieters. Anthropic schreibt in der eigenen Doku zum Zählen von Tokens, dass Claude 4.7 und neuere Modelle einen anderen Tokenizer verwenden und für denselben Text rund 30 Prozent mehr Tokens erzeugen. Das Preisblatt weist diesen Aufschlag nicht aus, sichtbar wird er erst in der Abrechnung. Wer Kosten kalkuliert, zählt deshalb pro Modell neu. (Hinweis: Verwechselbar mit den Token aus der Krypto- und IT-Welt. Ein Krypto-Token ist ein digitaler Vermögenswert, ein Zugangs- oder Sicherheitstoken dagegen ein Schlüssel zur Anmeldung, z. B. ein USB-Stick oder ein zeitlich begrenzter Anmeldeschlüssel. Mit der Texteinheit der Sprachmodelle haben beide nichts zu tun.)
Auch beim Antworten arbeitet ein Sprachmodell in dieser Einheit. Es erzeugt seinen Text Token für Token und sagt jeweils das wahrscheinlichste nächste Token voraus. Die Anbieter messen deshalb fast alles rund um Sprachmodelle in Tokens, vom Kontextfenster (dem Arbeitsgedächtnis eines Chats) über die API-Preise und die Ausgabegeschwindigkeit in Tokens pro Sekunde bis zu den Nutzungslimits der Abos. Was Token in der KI und ihre Bedeutung für die eigene Rechnung heißt, steht bei jedem Anbieter im Preisblatt, getrennt nach Eingabe und Ausgabe. Der Preis- und Leistungsvergleich von Claude und ChatGPT rechnet die Token-Preise beider Anbieter für typische Aufgaben gegeneinander durch.
Für lokale Unternehmen und Handwerksbetriebe sind Tokens primär die Mengeneinheit, in der KI-Nutzung gemessen und abgerechnet wird. An diesen Stellen begegnet Ihnen das konkret: