Glossareintrag
Wir denken. KI tippt mit.
Bias bei KI (englisch AI Bias oder Algorithmic Bias) bezeichnet eine systematische Verzerrung in den Ergebnissen eines KI-Systems, die bestimmte Personengruppen wiederholt benachteiligt oder Sachverhalte einseitig darstellt. Die Verzerrung entsteht primär über die Trainingsdaten, wenn diese vergangene Ungleichbehandlung widerspiegeln, wenn Gruppen darin unterrepräsentiert sind oder wenn menschliche Vorurteile beim Beschriften der Daten einfließen. Das Modell erfindet die Schieflage nicht, es lernt sie aus den Daten und wendet sie anschließend massenhaft an.
Anders als beim Halluzinieren, bei dem ein Modell eine einzelne Aussage frei erfindet, ist Bias ein wiederkehrender Fehler in eine bestimmte Richtung. Im Deutschen wird meist der englische Begriff verwendet (der Bias), deutsche Fachquellen wie das BSI-Whitepaper zu Bias in der Künstlichen Intelligenz sprechen von Verzerrung oder Voreingenommenheit.
Verzerrungen entstehen an mehreren Stellen im Lebenszyklus eines KI-Modells. Die US-Standardisierungsbehörde NIST beschreibt in ihrer Leitlinie SP 1270 neben Daten- und Modellfehlern ausdrücklich auch gesellschaftliche und menschliche Ursachen, weil KI-Systeme immer in einem sozialen Umfeld arbeiten. Die wichtigsten Formen im Überblick:
Amazon entwickelte ab 2014 eine Recruiting-KI, die aus zehn Jahren männerdominierter Bewerbungen gelernt hatte und Lebensläufe mit dem Wort „women’s“ abwertete; laut dem Reuters-Bericht von 2018 stellte der Konzern das Projekt ein, weil sich die Benachteiligung nicht zuverlässig abstellen ließ. Die Rechercheplattform ProPublica wies 2016 in ihrer Analyse „Machine Bias“ nach, dass die US-Justizsoftware COMPAS schwarze Angeklagte fast doppelt so oft fälschlich als hochriskant einstufte wie weiße (44,9 gegenüber 23,5 Prozent). Die MIT-Studie Gender Shades maß 2018 bei kommerzieller Gesichtsanalyse Fehlerraten von höchstens 0,8 Prozent für hellhäutige Männer, aber bis zu 34,7 Prozent für dunkelhäutige Frauen. In den Niederlanden wurden zwischen 2005 und 2019 rund 26.000 Eltern zu Unrecht als Betrüger eingestuft; ein Risiko-Algorithmus der Steuerbehörde nutzte dabei unter anderem die Staatsangehörigkeit als Risikofaktor. Die Kindergeld-Affäre führte im Januar 2021 zum Rücktritt der Regierung.
Google pausierte im Februar 2024 die Personen-Bildgenerierung von Gemini, nachdem eine fest eingebaute Diversitäts-Vorgabe historisch falsche Darstellungen erzeugt hatte; der Konzern räumte ein, mit der Überkorrektur das Ziel verfehlt zu haben.
Moderne Sprachmodelle sind ebenfalls betroffen, auch wenn ihr Sicherheitstraining offene Vorurteile weitgehend unterdrückt. Eine 2024 in Nature veröffentlichte Studie zeigte, dass große Sprachmodelle Sprechern des afroamerikanischen Englisch verdeckt prestigearme Jobs zuordnen und ihnen in fiktiven Gerichtsszenarien häufiger harte Strafen zusprechen. In einem Test der University of Washington mit über drei Millionen Lebenslauf-Vergleichen bevorzugten drei Sprachmodelle als weiß gelesene Namen in 85 Prozent der Fälle, als weiblich gelesene nur in 11 Prozent. Der Stanford AI Index zählte für 2025 insgesamt 362 dokumentierte KI-Vorfälle, gut die Hälfte mehr als im Vorjahr.
Die Anbieter halten mit mehreren Verfahren dagegen. Beim Training mit menschlichem Feedback (RLHF) bewerten Menschen die Antworten des Modells, Red-Teams versuchen vor der Veröffentlichung gezielt, diskriminierende Ausgaben zu provozieren, und Benchmarks wie BBQ messen Verzerrungen in neun sozialen Kategorien von Alter bis Religion. Die Nature-Studie und eine PNAS-Untersuchung von 2025 zeigen allerdings, dass selbst ausdrücklich auf Fairness trainierte Modelle in Assoziationstests weiterhin Stereotype tragen. Für solche Bias-Prüfungen hat die EU im Juli 2026 eine eigene Rechtsgrundlage geschaffen. Der mit dem Digital Omnibus eingefügte Artikel 4a der KI-Verordnung erlaubt Anbietern und Betreibern ausnahmsweise, sensible Daten wie Gesundheitsdaten oder die ethnische Herkunft zu verarbeiten, wenn sich Verzerrungen nur so erkennen und korrigieren lassen, unter Auflagen wie Pseudonymisierung und der Pflicht, die Daten nach der Korrektur zu löschen.
Für lokale Unternehmen und Handwerksbetriebe wird Bias bei KI überall dort zum Risiko, wo Software Entscheidungen über Menschen vorbereitet, allen voran bei der Personalauswahl. Benachteiligt ein KI-Tool beim Vorsortieren von Bewerbungen etwa Frauen oder Bewerber mit ausländisch klingendem Namen, haftet der Betrieb nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) auf Entschädigung, auch wenn die Software von einem externen Anbieter stammt. Die DSGVO verbietet in Artikel 22 zusätzlich, Bewerber rein automatisiert ohne menschliche Prüfung abzulehnen. Der EU AI Act stuft KI zur Bewerberauswahl als Hochrisiko-System ein; die zugehörigen Pflichten, darunter die Prüfung der Trainingsdaten auf Verzerrungen, gelten nach der Verschiebung durch den Digital Omnibus, der seit Ende Juli 2026 in Kraft ist, erst ab dem 2. Dezember 2027. Fairness und Nichtdiskriminierung zählen auch zu den sieben Anforderungen an vertrauenswürdige KI, die eine EU-Expertengruppe 2019 aufgestellt hat.
Im Marketing zeigt sich der Effekt bei generierten Bildern und Texten. Eine Analyse von AlgorithmWatch zeigte Anfang 2024, dass Bildgeneratoren wie Midjourney Ärzte fast ausschließlich als Männer und Pflegekräfte fast ausschließlich als Frauen darstellen. Wer KI-Bilder für Stellenanzeigen oder die eigene Website nutzt, sollte die Ergebnisse deshalb vor der Veröffentlichung prüfen und im Prompt gezielt gemischte Teams anfordern. Für Chatbots im Kundenkontakt gilt seit dem 2. August 2026 die Transparenzpflicht des AI Act, sie müssen sich als KI zu erkennen geben.
Vier Vorkehrungen senken das Risiko im Betriebsalltag:
