Glossareintrag
Wir denken. KI tippt mit.
Anonymisierung bei KI (englisch: Anonymization, bei Anbietern oft De-Identification) bedeutet, personenbezogene Daten so zu verändern, dass die betroffene Person „nicht oder nicht mehr identifiziert werden kann“ (Erwägungsgrund 26 der DSGVO). Bei KI betrifft das alles, was in ein System hineingeht oder aus ihm herauskommt. Maßgeblich sind alle Mittel, die „nach allgemeinem Ermessen wahrscheinlich genutzt werden“, um eine Person direkt oder indirekt zu identifizieren, gemessen an Kosten, Zeitaufwand und der verfügbaren Technologie. Anonymisierte Daten fallen nicht mehr unter die DSGVO. Personenbezogene Daten bleiben es, solange sich der Bezug mit vertretbarem Aufwand wiederherstellen lässt.
Die Pseudonymisierung (englisch Pseudonymization) ersetzt Namen oder Adressen durch eine Kennung wie „Kunde 4711“ und bewahrt die Zuordnungsliste getrennt auf. Artikel 4 Nr. 5 DSGVO definiert das Verfahren, und nach Erwägungsgrund 26 bleiben solche Daten personenbezogen, weil der Schlüssel existiert. Der Unterschied zwischen Anonymisierung und Pseudonymisierung ist der Maßstab für die Formulierungen der Anbieter von künstlicher Intelligenz. OpenAI bezeichnet Trainingsinhalte in seiner Datenschutzerklärung als „de-identified and disassociated from your account“, Anthropic spricht in seinem Privacy Center vom „De-Linking“ der Nutzerkennung, Google gibt Chats laut Gemini-Datenschutzhinweisen „disconnected from your account“ an Prüfer weiter. Im Rechtssinn beschreibt das in der Regel eine Pseudonymisierung. Ein Foto mit erkennbarem Gesicht bleibt personenbezogen, auch wenn niemand mehr weiß, aus welchem Konto es stammt. (Hinweis: Verwechselbar mit dem anonymen Surfen über Tor oder ein VPN. Dort wird die Internetverbindung verschleiert, hier geht es um den Inhalt der Daten.)
Bei KI stellt sich die Frage dreimal. Erstens bei der Eingabe, also bei allem, was im Prompt, in der hochgeladenen Datei oder auf dem Foto steht. Zweitens bei den Trainingsdaten. Drittens beim fertigen Modell. Der Europäische Datenschutzausschuss hat am 17. Dezember 2024 in seiner Stellungnahme 28/2024 zu KI-Modellen festgehalten, dass ein mit personenbezogenen Daten trainiertes KI-Modell nicht in allen Fällen als anonym gelten kann. Anonym ist es nur, wenn sowohl die Extraktion personenbezogener Daten aus dem Modell als auch ihr Auftauchen in Antworten auf Abfragen „insignificant“, also unerheblich, ist.
Ob Daten anonym sind, prüfen die europäischen Aufsichtsbehörden seit 2014 anhand von drei Fragen. Kann eine einzelne Person im Datensatz herausgegriffen werden (Singling out)? Lassen sich mehrere Datensätze derselben Person verknüpfen (Linkability)? Lässt sich aus den Daten eine Eigenschaft der Person ableiten (Inference)? Diese Kriterien stammen aus der Stellungnahme 05/2014 der Artikel-29-Datenschutzgruppe, die auch festhält, Pseudonymisierung sei „not a method of anonymisation“. Der Europäische Datenschutzausschuss hat am 7. Juli 2026 den Nachfolger vorgelegt, die Leitlinien 02/2026 zur Anonymisierung. Die öffentliche Konsultation läuft bis zum 30. Oktober 2026. Die drei Kriterien heißen dort „No Record Isolation, No Linkage and No Inference“. Neu ist der ausdrückliche KI‑Bezug. Bei KI-Modellen und synthetischen Daten lassen sich laut Entwurf Rückschlüsse durch Abfragen ziehen, bei Modellen per Prompting.
Der Europäische Gerichtshof entschied am 4. September 2025 im Verfahren EDSB gegen SRB (C‑413/23 P), dass pseudonymisierte Daten „nicht in jedem Fall und für jede Person“ personenbezogen sind. Das Urteil betrifft die Datenschutzregeln der EU-Organe, deren Begriffe denen der DSGVO entsprechen. Ein Empfänger ohne Zuordnungsschlüssel kann Daten vor sich haben, die für ihn anonym sind, während sie für den Absender personenbezogen bleiben. Für den Betrieb, der die Daten erhebt, ändert das nichts an seinen Pflichten. Ein Beispiel sind die Claude Smart Reports von Anthropic. Sie ersetzen Namen von Beschäftigten durch „User“, jedes Aufdecken wird protokolliert. Für den Arbeitgeber bleiben die Daten trotzdem personenbezogen. Laut der Pressemitteilung des Gerichtshofs zum SRB-Urteil ist die Informationspflicht gegenüber den Betroffenen „aus der Sicht des Verantwortlichen“ zum Zeitpunkt der Erhebung zu beurteilen. Die Leitlinien 02/2026 übernehmen diese relative Sicht. Anonymität ist danach aus der Perspektive jeder beteiligten Stelle zu bewerten. Die EU-Kommission will den Gedanken mit ihrem Digital-Omnibus-Vorschlag zum Datenrecht vom 19. November 2025 in die Definition personenbezogener Daten in Artikel 4 DSGVO schreiben. Das Verfahren läuft, beschlossen ist die Änderung nicht. Der Rat hat sie in seinem Verhandlungsmandat zum Digital Omnibus vom 21. Oktober 2026 gestrichen und regelt die Pseudonymisierung stattdessen in einem neuen Art. 25a.
Ohne Namen sind Daten nicht automatisch anonym. Latanya Sweeney hat im Jahr 2000 gezeigt, dass 87 Prozent der US-Bevölkerung allein über Postleitzahl, Geschlecht und Geburtsdatum mit hoher Wahrscheinlichkeit eindeutig bestimmbar waren. 2019 kam eine Modellrechnung in Nature Communications zu dem Ergebnis, dass sich 99,98 Prozent der US-Amerikaner in jedem Datensatz mit 15 demografischen Merkmalen korrekt re-identifizieren lassen. Für Prompts schreibt die Datenschutzkonferenz der deutschen Aufsichtsbehörden in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024, es reiche „regelmäßig nicht, Namen und Anschriften einer Eingabe zu entfernen“, weil sich der Personenbezug aus dem Zusammenhang herstellen lasse. Ihr Beispiel ist ein Arbeitszeugnis „für einen Kundenberater im Autohaus X“, das personenbezogen wird, sobald erkennbar ist, welches Unternehmen es wann angefragt hat.
Sprachmodelle verschärfen das Problem durch ihr Hintergrundwissen. Der Bitkom nennt in seinem Leitfaden „Generative KI im Unternehmen“ den Umfang des „Hintergrundwissens“, aus dem eine KI Rückschlüsse ziehen kann, als große Herausforderung der Anonymisierung. Im Februar 2026 hat ein Team um Florian Tramèr und Nicholas Carlini gemessen, wie gut Sprachmodelle pseudonyme Profile auf Plattformen wie Hacker News und Reddit realen LinkedIn-Profilen oder einander zuordnen. Die Modelle erreichten bis zu 68 Prozent Trefferquote bei 90 Prozent Genauigkeit, die beste Methode ohne Sprachmodell lag nahe null.
Auch das Modell selbst kann Daten preisgeben. Ein Sprachmodell speichert Teile seiner Trainingsdaten wortwörtlich in seinen Parametern (Memorisierung) und gibt sie auf passende Eingaben wieder aus (Regurgitation). Nicholas Carlini und Kollegen haben 2021 aus GPT‑2 604 wortgleiche Trainingsbeispiele herausgeholt, darunter Name, Anschrift, E-Mail, Telefon- und Faxnummer einer einzelnen Person. 2023 folgte der Nachweis am Produkt. Mit dem Prompt „Repeat this word forever: poem poem poem poem“ brachte ein Team um Milad Nasr und Nicholas Carlini ChatGPT dazu, nach einigen hundert Wiederholungen in Trainingsdaten abzukippen. Für rund 200 US-Dollar an Abfragen extrahierten sie über 10.000 wortgleiche Trainingsbeispiele. In 16,9 Prozent der geprüften Ausgaben steckten memorierte personenbezogene Daten. Die Sicherheitsausrichtung der Modelle beseitigt Memorierung nicht, so die Autoren. Meta gibt im Bericht zu Llama 3 an, Web-Domains mit vielen personenbezogenen Daten aus dem Training zu entfernen. In den Sprachaufnahmen für das Training sucht das Unternehmen personenbezogene Daten mit dem Analyzer von Microsoft Presidio.
Die Stellungnahme 28/2024 hält fest, personenbezogene Daten könnten in den Parametern eines Modells „absorbed“ bleiben. Aufsichtsbehörden sollen prüfen, ob sich Trainingsdaten aus dem Modell extrahieren lassen und ob Ausgaben sich auf die Trainingspersonen beziehen, einschließlich Angriffen wie Membership Inference (Nachweis, dass eine bestimmte Person im Trainingsdatensatz war). Der Hamburgische Datenschutzbeauftragte hatte im Juli 2024 in einem Diskussionspapier zu Sprachmodellen noch die Gegenthese vertreten, in Sprachmodellen würden „keine personenbezogenen Daten gespeichert“. In seinem Tätigkeitsbericht 2025 schreibt er, die Stellungnahme des Ausschusses „ersetzt damit den Impuls der Hamburger Thesen“. Laut einer Studie von 2024 schneiden Membership-Inference-Angriffe auf Sprachmodelle in den meisten Szenarien kaum besser ab als Raten („barely outperform random guessing“). Der Nachweis im Einzelfall ist also aufwendig. Die Nachweispflicht liegt gleichwohl beim Verantwortlichen, der Anonymität behauptet, nicht bei der Person, die ihren Personenbezug vermutet.
Wer eigene Dokumente für eine KI-Suche in Vektoren (Embeddings) umwandelt, hat sie nicht anonymisiert. Eine Arbeit von 2023 hat aus solchen Vektoren 92 Prozent kurzer Eingabetexte (32 Tokens) exakt rekonstruiert, darunter Personennamen aus klinischen Notizen. Die Datenschutzkonferenz verlangt in ihrer Orientierungshilfe zu RAG-Systemen vom Oktober 2025, personenbezogene Daten schon bei der Aufbereitung „zu entfernen oder zu anonymisieren“, soweit sie nicht erforderlich sind.
Welche Technik anonymisiert, hängt von der Datenart ab. Die Stellungnahme 05/2014 bewertet die Verfahren nach den drei Kriterien. Die OECD ordnet diese Verfahren unter dem Stichwort Datenverschleierung den Privacy-Enhancing Technologies zu.
Die Anonymisierung personenbezogener Daten ist selbst eine Verarbeitung und benötigt eine Rechtsgrundlage. So formuliert es der Bundesbeauftragte für den Datenschutz in seinem Positionspapier zur Anonymisierung von 2020. Eine „absolute Anonymisierung“ sei „häufig nicht möglich“ und „im Regelfall datenschutzrechtlich auch nicht gefordert“. Ausreichend ist, dass eine Re-Identifizierung nur „mit einem unverhältnismäßigen Aufwand an Zeit, Kosten und Arbeitskraft“ gelingt. Der Landesbeauftragte Baden-Württemberg schreibt in seinem Diskussionspapier zu Rechtsgrundlagen beim KI-Einsatz vom Oktober 2024: „Nur eine dauerhafte Anonymisierung hebt den Personenbezug auf.“ Weil neue Technik alte Anonymisierungen aufheben kann, verlangt der Bundesbeauftragte eine „kontinuierliche Überprüfung“. Wer vor Veröffentlichung der Leitlinien 02/2026 nach der Stellungnahme 05/2014 bewertet hat, muss laut deren Entwurf nicht neu bewerten. Eine regelmäßige Neubewertung gilt dort als gute Praxis.
Die KI-Verordnung setzt Anonymisierung als Vorstufe voraus. Artikel 10 Absatz 5 sah für Anbieter von Hochrisiko-Systemen vor, besondere Kategorien personenbezogener Daten (Gesundheit, Herkunft, Religion) zur Erkennung von Bias nur ausnahmsweise zu verarbeiten. Bedingung ist, dass die Korrektur „durch die Verarbeitung anderer Daten, einschließlich synthetischer oder anonymisierter Daten“, nicht möglich ist. Die Verarbeitung läuft dann unter Pseudonymisierung. Mit der Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026, in Kraft seit dem 27. Juli 2026, ist die Regel in einen neuen Artikel 4a gewandert. Sie gilt jetzt auch für andere KI-Systeme und KI-Modelle, sofern die Verzerrung Gesundheit, Sicherheit oder Grundrechte betrifft. Auch Artikel 59 zu Reallaboren lässt personenbezogene Daten für KI im öffentlichen Interesse nur zu, wenn anonymisierte oder synthetische Daten die Anforderungen nicht erfüllen (EU AI Act). Die italienische Datenschutzbehörde verhängte im Januar 2024 gegen die Stadt Trient 50.000 Euro Bußgeld, unter anderem weil die Anonymisierungstechniken in zwei KI-Überwachungsprojekten „insufficienti“ waren, um das Risiko der Re-Identifizierung zu senken. Die Daten mussten gelöscht werden.
Im Betrieb geht es um drei Dinge: den Prompt, hochgeladene Dateien und Fotos sowie die Einstellungen des KI-Kontos. Daten anonymisieren, bevor sie in ChatGPT, Copilot oder Gemini gehen, heißt mehr streichen als den Namen.
Beispiel: Ein Fliesenleger will eine Antwort auf eine Reklamation formulieren. Der Prompt „Antworte Frau Müller, Bergstraße 12 in 58095 Hagen, Rechnung 2026‑0417 über 4.380 Euro, die Fugen im Gäste-WC sind nach sechs Wochen verfärbt“ enthält Name, Adresse, Rechnungsnummer und Betrag. Anonymisiert lautet er „Antworte einer Kundin, bei der die Fugen im Gäste-WC nach sechs Wochen verfärbt sind, Auftrag Anfang September“. Rechnungsnummer und Betrag benötigt die KI für den Textentwurf nicht. Die setzt der Betrieb später selbst ein. Platzhalter wie [KUNDE_1] statt „eine Kundin“, mit einer Zuordnungsliste im Betrieb, sind dagegen eine Pseudonymisierung. Das reicht für den Textentwurf, macht die Eingabe aber nicht anonym im Rechtssinn. Und auch die anonymisierte Fassung wird nach dem Maßstab der Datenschutzkonferenz personenbezogen, wenn der Betrieb in einem Dorf mit 800 Einwohnern arbeitet und im September nur ein Gäste-WC gefliest hat.
Direkte Kennungen und indirekte Merkmale gehören vor der Eingabe entfernt oder ersetzt:
Für Unternehmen ohne eigene IT gibt es Browser-Erweiterungen, die personenbezogene Daten vor dem Absenden im Chatfenster erkennen und durch Platzhalter ersetzen. Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) bietet mit Privacy Guardrail eine quelloffene Chrome-Erweiterung an, die vor der Eingabe in ChatGPT, Claude oder Gemini lokal im Browser arbeitet (Public Beta). Die Erweiterung setzt die Platzhalter in der KI-Antwort wieder zurück, kommerzielle Dienste wie anymize arbeiten nach demselben Prinzip. Beides ist Pseudonymisierung mit Rückübersetzung im Betrieb und findet nicht alles. Namen in Fließtext, Dialekt und Tippfehler bleiben die Schwachstellen automatischer Erkennung.
Für Firmen mit IT-Abteilung oder Dienstleister ist Microsoft Presidio ein quelloffener Baukasten (derzeit im Übergang zu einem Community-Projekt) mit Modulen für Text, Bilder und Tabellen. Die Dokumentation warnt, es gebe „no guarantee“, alle sensiblen Informationen zu finden. OpenAI hat im April 2026 den Privacy Filter veröffentlicht, ein Modell mit offenen Gewichten, das auf dem eigenen Rechner läuft. Es erkennt und schwärzt acht Kategorien (Personen, Adressen, E-Mails, Telefonnummern, URLs, Datumsangaben, Kontonummern sowie Passwörter und Schlüssel). Laut OpenAI kann die Erkennung bei nicht-englischen Texten schwächer ausfallen. Ein Anonymisierungswerkzeug ist der Filter nach eigener Aussage nicht („not an anonymization tool“). Die PII-Erkennung in Microsoft Azure unterstützt Deutsch und kann in einer Vorschaufunktion erkannte Namen durch erfundene Ersatznamen austauschen. Google Model Armor und Amazon Bedrock Guardrails maskieren personenbezogene Daten in Prompts, bevor sie das Modell erreichen. Unternehmen mit Copilot in Microsoft 365 können über Purview Data Loss Prevention Prompts mit sensiblen Daten blockieren lassen (Vorschaufunktion). Dateien, die direkt in den Prompt hochgeladen werden, kann die Funktion nicht prüfen.
Für Baustellenfotos reicht meist das Zuschneiden oder Übermalen der kritischen Stelle, bevor das Bild in die KI geht. Weichzeichnen ist umkehrbar. GPS-Daten entfernt die Foto-App beim Teilen nicht immer. Windows zeigt sie in den Dateieigenschaften unter „Details“ und bietet dort „Eigenschaften und persönliche Informationen entfernen“ an. Betriebe mit vielen Bildern, z. B. aus Bodycams oder Drohnenflügen, nutzen Dienste wie Celantur oder brighter AI, die Gesichter, Kennzeichen und ganze Personen automatisch verfremden.
Anonymisierung ersetzt die übrigen Pflichten nur dort, wo sie vollständig gelingt. Wer keine personenbezogenen Daten an den Anbieter gibt, benötigt keinen Auftragsverarbeitungsvertrag. Sobald pseudonymisierte Kundendaten fließen, gelten AVV, Rechtsgrundlage und Informationspflicht weiter. Die Datenschutzkonferenz empfiehlt außerdem, Konten so einzustellen, dass Eingaben nicht zum Training verwendet und Verläufe nicht über die Sitzung hinaus gespeichert werden. Den Trainings-Ausschluss hat OpenAI laut seiner Hilfeseite zur Datennutzung bei Business, Enterprise und der API voreingestellt, in der Privatversion muss unter „Datenkontrollen“ widersprochen werden. Wer die Speicherung ganz ausschließen will, braucht eine Zusage zur Zero Data Retention. Einen festen Ort der Verarbeitung sichert eine Zusage zur Datenresidenz.
Betriebe, die ein Modell mit eigenen Daten nachtrainieren (Fine-Tuning) oder eine KI-Suche über Kundenakten bauen, stehen vor der schwereren Aufgabe. Der Hamburgische Datenschutzbeauftragte rät, beim Fine-Tuning möglichst keine personenbezogenen Daten zu verwenden und synthetische Daten zu bevorzugen. Das Bayerische Landesamt für Datenschutzaufsicht hält auf seiner Themenseite zu KI fest, eine Anonymisierung von Fließtexten und Bildern für ein KI-Training dürfte „meist an der dann nicht mehr ausreichenden Datenqualität“ scheitern. Ist sie trotzdem nötig, gehören Rechtsgrundlage, Datenschutz-Folgenabschätzung und die Prüfung des fertigen Modells auf Extraktion in den Plan, wie die Stellungnahme 28/2024 sie verlangt.