Glossareintrag
Wir denken. KI tippt mit.
Constitutional AI (kurz CAI, deutsch Verfassungs-KI) ist eine Trainingsmethode des KI-Unternehmens Anthropic, die ein Sprachmodell an einer schriftlichen „Verfassung“ aus Verhaltensprinzipien ausrichtet. Das Modell kritisiert und überarbeitet seine eigenen Antworten anhand dieser Prinzipien und lernt aus den verbesserten Fassungen, ohne dass Menschen jede einzelne Antwort bewerten müssen. Anthropic stellte das Verfahren im Dezember 2022 im Paper „Constitutional AI: Harmlessness from AI Feedback“ vor und trainiert damit seine Claude-Modelle.
Der Name lehnt sich an eine Staatsverfassung an. So wie sich Gesetze an einer Verfassung messen lassen müssen, prüft das Modell seine Antworten gegen einen festen Katalog von Regeln. Die erste Verfassung von 2023 war eine Liste einzelner Prinzipien, unter anderem aus der UN-Menschenrechtserklärung. Seit Januar 2026 gilt ein neues, ausführlich begründetes Dokument von rund 23.000 Wörtern.
Constitutional AI ist eine konkrete Methode für das Alignment, also die Ausrichtung eines Modells auf erwünschtes Verhalten. Vom verbreiteten RLHF unterscheidet sich das Verfahren primär in der Feedback-Quelle. Bei RLHF bewerten Menschen die Antworten des Modells, bei Constitutional AI übernimmt das eine KI anhand der Prinzipien. Dieser Baustein heißt RLAIF (Reinforcement Learning from AI Feedback).
Das Training läuft in zwei Phasen ab. In der ersten Phase beantwortet das Modell bewusst heikle Anfragen. Es kritisiert die eigene Antwort anhand eines zufällig gewählten Prinzips und schreibt sie anschließend um. Auf diesen überarbeiteten Antworten wird das Modell per Fine-Tuning nachtrainiert. Ein Prinzip aus dem Original-Paper verlangt sinngemäß, die Antwort so umzuschreiben, dass alle schädlichen, unethischen oder illegalen Inhalte verschwinden.
In der zweiten Phase erzeugt das Modell je zwei Antworten auf dieselbe Anfrage, und ein KI-Bewerter wählt anhand der Verfassung die bessere aus. Aus diesen Urteilen entsteht ein Präferenzmodell, das im anschließenden Verstärkungslernen als Belohnungssignal dient. Diesen Schritt nennt das Paper RLAIF, weil KI-Feedback die menschlichen Bewertungen ersetzt. Für beide Phasen kam das Original-Paper mit Listen von jeweils 16 Prinzipien aus.
Anthropic nennt im Paper drei Vorteile. Das Verfahren skaliert, weil keine menschlichen Bewerter mehr zehntausende schädliche Antworten lesen und einstufen müssen. Es macht die Trainingsziele transparent, weil die Prinzipien öffentlich nachlesbar sind. Und es liefert weniger Ausweichantworten. Das Modell begründet eine Ablehnung, statt pauschal zu blocken.
Die erste veröffentlichte Verfassung für Claude vom Mai 2023 speiste sich aus der UN-Menschenrechtserklärung, den Nutzungsbedingungen von Apple, den Sparrow-Regeln von Google DeepMind und eigenen Prinzipien von Anthropic. Im Oktober 2023 ließ das Unternehmen zusätzlich rund 1.000 US-Bürger über eine öffentlich abgestimmte Verfassung mitentscheiden, mit 1.127 eingereichten Aussagen und 38.252 Abstimmungen. Ein damit trainiertes Testmodell zeigte bei gleicher Leistung einen geringeren Bias.
Am 22. Januar 2026 veröffentlichte Anthropic eine komplett neue Verfassung. Statt einer Prinzipienliste ist sie ein rund 23.000 Wörter langes Dokument, das Claude die Gründe hinter den Regeln erklärt und unter der freien Lizenz CC0 steht. Bei Konflikten gilt eine feste Rangfolge: Zuerst Sicherheit, dann Ethik, dann die Richtlinien von Anthropic. Als Letztes die Hilfsbereitschaft. Aus der Verfassung erzeugt Anthropic auch synthetische Trainingsdaten, mit denen Claude sein Verhalten lernt.
Auf derselben Idee bauen die Constitutional Classifiers vom Februar 2025 auf, Filtermodelle, die Ein- und Ausgaben im laufenden Betrieb gegen eine Verfassung erlaubter Inhalte prüfen. In Tests von Anthropic sank die Erfolgsquote von Jailbreak-Versuchen damit von 86 auf 4,4 Prozent. In über 3.000 Stunden bezahltem Angriffstesten fand erst niemand einen universellen Trick. Bei einer späteren öffentlichen Demo bestanden aber vier Teilnehmer alle acht Testfragen. Einer davon mit einem universellen Jailbreak, und Anthropic zahlte insgesamt 55.000 Dollar Prämie aus.
Andere Anbieter arbeiten mit ähnlichen Regeln. OpenAI veröffentlicht mit der Model Spec ein ebenfalls frei lizenziertes Verhaltensdokument und trainiert seine Reasoning-Modelle per Deliberative Alignment darauf, die Sicherheitsregeln beim Antworten aktiv mitzulesen. Nvidia bietet im NeMo-Framework eine fertige Constitutional-AI-Pipeline für eigene Modelle an.
Die Juristin Luz Helena Orozco y Villa von der Universität Oxford hält den Verfassungs-Begriff im Fachblog The Digital Constitutionalist für zu groß. Die Prinzipien stammten von Anthropic-Mitarbeitern und seien nicht demokratisch legitimiert. Eine Studie von Google-DeepMind-Forschern vom Mai 2026 misst außerdem, wie gut Modelle ihr eigenes Reglement unter Angriffsbedingungen einhalten. Die Verstoßquote der Claude-Modelle sank dabei über die Generationen von 15 auf 2 Prozent. Sie liegt also weiter über null.
Selbst anwenden kann ein Unternehmen Constitutional AI nicht. Das Verfahren wirkt beim Hersteller während des Trainings. Es erklärt aber, warum sich Claude im Alltag oft anders verhält als andere Modelle. Lehnt es eine Anfrage ab, etwa zu einem heiklen Chemikalien- oder Rechtsthema, nennt es in der Regel den Grund und bietet eine entschärfte Alternative an. Dieses Verhalten war ein erklärtes Trainingsziel des Verfahrens.
Wer für Texte, Kundenmails oder einen KI-Agenten ein Modell auswählt, kann die veröffentlichten Vorschriften der Anbieter direkt nachlesen, die Verfassung von Anthropic wie auch die Model Spec von OpenAI. Dort steht z. B., wie das Modell mit Medizin- und Rechtsfragen oder mit sensiblen Kundendaten umgehen soll. Vor dem Einsatz lässt sich so prüfen, ob die Leitlinie zum eigenen Betrieb und zur eigenen Kundschaft passt.
Ein verfassungstrainiertes Modell hält seine Regeln allerdings nicht in jedem Fall ein. Die Google-DeepMind-Studie vom Mai 2026 misst bei aktuellen Claude-Modellen unter Angriffsbedingungen weiter rund 2 Prozent Verstöße. Für lokale Unternehmen und Handwerksbetriebe bleibt deshalb die Grundregel bestehen, KI-Ausgaben, Texte für Angebote, Verträge oder sicherheitsrelevante Auskünfte vor dem Versand immer zu prüfen.
