Glossareintrag
Wir denken. KI tippt mit.
Parameter sind die gelernten Zahlenwerte im Inneren eines AI-/KI-Modells. In ihnen steckt alles, was das Modell beim Training aus seinen Trainingsdaten aufgenommen hat. Technisch sind es die Gewichte (englisch Weights) und Verzerrungswerte (Biases) eines neuronalen Netzes, also Milliarden kleiner Stellwerte, die gemeinsam bestimmen, wie das Modell auf eine Eingabe reagiert.
Sie können sich Parameter wie winzige Stellschrauben an einer riesigen Maschine vorstellen. Der entscheidende Unterschied zu echten Schrauben ist, dass niemand sie von Hand einstellt. Beim Training justiert das Modell sie millionenfach selbst nach, bis seine Antworten immer besser zu den Trainingsdaten passen.
Die Parameterzahl ist zugleich das gängigste Maß für die Größe eines KI-Modells. Wenn ein Hersteller ein neues Sprachmodell mit „671 Milliarden Parametern" ankündigt, ist genau diese Zahl gemeint.
Parameter entstehen ausschließlich beim Training und sind danach eingefroren. Ein großes Sprachmodell startet mit Zufallswerten und vergleicht seine Vorhersagen unzählige Male mit den Trainingsdaten. Nach jedem Vergleich werden alle Gewichte ein kleines Stück in die Richtung verschoben, die den Fehler verringert (Fachbegriff Gradientenverfahren). Am Ende des Trainings stehen die Werte fest. Wenn Sie später mit dem Modell chatten, ändert sich an den Parametern nichts mehr, das Modell lernt im Gespräch also nicht dauerhaft dazu.
Verwechseln Sie gelernte Parameter nicht mit zwei anderen Begriffen, die ähnlich klingen. Hyperparameter legen Entwickler vor dem Training von Hand fest, etwa die Lernrate oder die Zahl der Netzschichten. Und Regler wie die „Temperature", die manche Chat-Oberflächen und Programmierschnittstellen anbieten, sind reine Ausgabe-Einstellungen. Wer daran dreht, verstellt kein einziges gelerntes Gewicht.
Ein Blick auf die Größenordnungen zeigt, wie schnell die Entwicklung verlief. GPT-2 von OpenAI hatte 2019 rund 1,5 Milliarden Parameter, der Nachfolger GPT-3 im Jahr 2020 bereits 175 Milliarden. Aktuelle offene Modelle liegen noch einmal deutlich darüber, zum Beispiel Llama 4 Maverick von Meta mit 400 Milliarden, DeepSeek-V3 mit 671 Milliarden oder Kimi K2 von Moonshot AI mit rund 1 Billion Parametern. Vorsicht bei englischen Quellen, denn das englische „trillion" bedeutet auf Deutsch Billion, während das englische „billion" nur eine Milliarde ist.
Bei den großen kommerziellen Modellen bleibt die Parameterzahl dagegen Betriebsgeheimnis. OpenAI, Anthropic und Google legen für GPT, Claude und Gemini keine offiziellen Zahlen vor. Die oft zitierte Schätzung von rund 1,8 Billionen Parametern für GPT-4 stammt aus einem Leak von 2023 und wurde nie bestätigt. Wer belegte Zahlen nachschlagen möchte, findet sie in der Modell-Datenbank von Epoch AI mit Parameterzahlen zu über 3.500 KI-Modellen.
Die drei genannten offenen Modelle nutzen übrigens alle eine Architektur namens Mixture of Experts, bei der pro Token nur ein Bruchteil der Parameter mitrechnet. Deshalb tauchen in Ankündigungen zwei Zahlen auf. Kimi K2 hat 1 Billion Parameter insgesamt, aktiv sind pro Rechenschritt aber nur 32 Milliarden. Beim offenen OpenAI-Modell gpt-oss-120b sind es 117 Milliarden insgesamt und nur 5,1 Milliarden aktiv. Die Gesamtzahl beschreibt das gespeicherte Wissen, die aktive Zahl den Rechenaufwand pro Antwort.
Aus der Parameterzahl lässt sich außerdem der Speicherbedarf abschätzen. In üblicher 16-Bit-Genauigkeit belegt jeder Parameter 2 Byte. Ein Modell mit 7 Milliarden Parametern braucht damit rund 14 Gigabyte allein für seine Gewichte. Durch Quantisierung, also das Abspeichern der Werte in gröberer 4-Bit-Auflösung, schrumpft derselbe Wert auf etwa 3,5 Gigabyte, bei nur leicht sinkender Qualität. Genau deshalb laufen kleine Modelle auf einem gut ausgestatteten PC, während die größten Modelle Rechenzentrums-Hardware brauchen.
Mehr Parameter bedeuten dabei nicht automatisch ein besseres Modell. Wie Modellgröße, Datenmenge und Rechenaufwand zusammenwirken, beschreiben die Skalierungsgesetze. Das zeigte DeepMind schon 2022 mit dem Modell Chinchilla, das mit 70 Milliarden Parametern ein viermal größeres Schwestermodell übertraf, weil es mit deutlich mehr Daten trainiert wurde. Seitdem gilt, dass Datenmenge und Datenqualität mindestens so viel zählen wie die reine Größe. NVIDIA-Forscher argumentierten 2025 sogar, dass kleine Sprachmodelle für viele Automatisierungsaufgaben die wirtschaftlichere Wahl sind.
Wichtig fürs Verständnis ist noch ein letzter Punkt. Parameter speichern das Trainingswissen stark komprimiert, ähnlich wie ein Mensch Gelerntes im Kopf behält. Ein Sprachmodell besitzt keine eingebaute Datenbank und kann nichts nachschlagen. Das erklärt, warum es bei seltenen Detailfragen trotz riesiger Parameterzahl danebenliegen kann.
Für Betriebe ist die Parameterzahl vor allem eine Einordnungshilfe beim Werkzeugkauf. Sie hilft zu verstehen, was hinter Schlagzeilen wie „neues Modell mit 1 Billion Parametern" steckt und welche Modellklasse für eine Aufgabe wirklich nötig ist.
In der Praxis gilt eine einfache Faustregel. Für Alltagsaufgaben wie E-Mails, Angebotstexte oder Zusammenfassungen reichen oft die kleineren, günstigeren Modelle der Anbieter, die schneller antworten und pro Anfrage deutlich weniger kosten. Die großen Spitzenmodelle lohnen sich für komplexe Arbeiten wie längere Analysen, knifflige Rechtstexte oder Programmierung. Ein Vergleich der Modellklassen samt Preisen steht im Artikel Claude vs ChatGPT 2026.
Interessant wird die Parameterzahl auch beim Thema Datenschutz. Kleine offene Modelle lassen sich komplett auf eigener Hardware betreiben, sodass keine Kundendaten das Haus verlassen. Das offene OpenAI-Modell gpt-oss-20b läuft beispielsweise auf einem PC mit 16 Gigabyte Speicher.
Und beim Anbieter-Vergleich schützt das Wissen um Parameter vor Marketing-Fallen. Ein mittelgroßes Modell, das per Anbindung auf Ihre echten Firmendaten wie Preislisten oder Leistungsverzeichnisse zugreift, liefert im Alltag oft bessere Ergebnisse als ein größeres Modell ohne diesen Zugriff. Fragen Sie bei Software-Angeboten also weniger nach der Modellgröße und mehr danach, mit welchen Ihrer Daten das System arbeitet.
