Glossareintrag
Wir denken. KI tippt mit.
Vertrauenswürdige KI (englisch Trustworthy AI) ist Künstliche Intelligenz, die über ihren gesamten Lebenszyklus rechtmäßig, ethisch und robust bleibt. Rechtmäßig heißt, alle geltenden Gesetze einzuhalten. Ethisch meint die Achtung von Grundwerten wie Fairness und Selbstbestimmung. Robust bezieht sich auf die Technik und auf das gesellschaftliche Umfeld, in dem das System läuft. Diese Definition stammt aus den „Ethik-Leitlinien für eine vertrauenswürdige KI“, die eine unabhängige Expertengruppe der EU-Kommission (High-Level Expert Group on AI, kurz HLEG) am 8. April 2019 veröffentlicht hat.
Kernstück der Leitlinien sind sieben Anforderungen, von menschlicher Aufsicht bis Rechenschaftspflicht. Sie waren als freiwilliger Rahmen gedacht und wurden zur direkten Vorarbeit des EU AI Act, der weltweit ersten umfassenden KI-Verordnung.
Im Sprachgebrauch überschneidet sich der Begriff mit „ethischer KI“ und „verantwortungsvoller KI“ (Responsible AI). Einen offiziellen Kriterienkatalog hat davon allein die vertrauenswürdige KI. Der verwandte Begriff Alignment meint etwas Engeres, nämlich die technische Ausrichtung eines KI-Modells an menschlichen Zielen.
Hinter den Leitlinien steht eine 52-köpfige Gruppe aus Wissenschaft, Wirtschaft und Zivilgesellschaft, die die EU-Kommission im Juni 2018 eingesetzt hat. Ihre Arbeit beginnt mit vier ethischen Grundsätzen: Achtung der menschlichen Autonomie, Schadensverhütung, Fairness und Erklärbarkeit. Daraus leiten die Leitlinien sieben Kernanforderungen an jedes KI-System ab:
Im Juli 2020 legte die Gruppe die Bewertungsliste ALTAI (Assessment List for Trustworthy Artificial Intelligence) nach. Sie übersetzt jede der sieben Anforderungen in konkrete Prüffragen zur Selbstbewertung und ist bei der EU-Kommission kostenlos in allen Amtssprachen abrufbar.
Aus der Empfehlung von 2019 ist Recht geworden. Der EU AI Act (Verordnung 2024/1689, in Kraft seit dem 1. August 2024) führt die sieben Anforderungen in Erwägungsgrund 27 ausdrücklich als Grundlage an. Seit dem 2. Februar 2025 gelten die Verbote bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz. Seit dem 2. August 2025 folgen die Regeln für Allzweck-Modelle, seit dem 2. August 2026 die Kennzeichnungspflichten für KI-Kontakt und KI-Inhalte. Die Pflichten für Hochrisiko-Systeme hat die EU im Juli 2026 mit der Änderungsverordnung „Digital Omnibus“ verschoben, je nach Systemtyp auf Dezember 2027 oder August 2028 (Überblick von KPMG zur Omnibus-Verordnung).
Das Fraunhofer IAIS stellt für die Prüfung von KI-Anwendungen einen kostenlosen KI-Prüfkatalog mit über 160 Seiten bereit. Fünf deutsche TÜV-Gesellschaften gründeten 2023 das gemeinsame TÜV AI.Lab. International ist ISO/IEC 42001 seit Ende 2023 die erste zertifizierbare Managementnorm für KI. Erste Zertifikate gingen an Konzerne wie AWS, Google, Microsoft und Anthropic. Als internationales Gegenstück zu den EU-Leitlinien gelten die KI-Prinzipien der OECD von 2019, denen sich 47 Staaten angeschlossen haben.
Für die Studie „Trust, attitudes and use of AI“ befragten die Universität Melbourne und KPMG mehr als 48.000 Menschen in 47 Ländern. 66 Prozent nutzen demnach regelmäßig KI, aber nur 46 Prozent sind bereit, ihr zu vertrauen. In Deutschland liegt die Vertrauensbereitschaft bei 32 Prozent (globale Vertrauensstudie von KPMG).
In den Niederlanden stufte ein Risiko-Algorithmus der Steuerbehörde zehntausende Familien zu Unrecht als Betrüger beim Kindergeldbezug ein. Als Verdachtsmerkmal genügte unter anderem eine doppelte Staatsangehörigkeit. Die Affäre kostete die Regierung im Januar 2021 das Amt und brachte der Behörde ein Millionenbußgeld der Datenschutzaufsicht ein (Bericht zur niederländischen Kindergeldaffäre). Der Fall diente in der Diskussion um den EU AI Act als Warnbeispiel für KI-Einsatz ohne menschliche Aufsicht und Fairness-Kontrolle.
Für Unternehmen ohne eigene KI-Entwicklung heißt vertrauenswürdige KI primär, KI-Tools sorgfältig auszuwählen und rechtssicher einzusetzen. Der EU AI Act nimmt ausdrücklich auch reine Anwender in die Pflicht. Wer KI beruflich einsetzt, muss seit Februar 2025 für ausreichende KI-Kompetenz im Team sorgen (Artikel 4). Seit August 2026 müssen Kunden außerdem erkennen können, wenn sie mit einem Chatbot schreiben oder KI-erzeugte Inhalte sehen.
Die sieben Anforderungen sind eine Einkaufs-Checkliste vor der Buchung eines KI-Tools:
Bei der Einordnung helfen kostenlose Angebote. Der AI Act Risk Navigator des TÜV AI.Lab stuft ein geplantes KI-System in wenigen Minuten in die Risikoklassen der KI-Verordnung ein. Die ALTAI-Checkliste der EU ist ein Selbsttest für den eigenen KI-Einsatz, und die Mittelstand-Digital-Zentren des Bundes beraten kleine Betriebe kostenfrei.
Vorsicht gilt bei KI, die Bewerbungen filtert oder Beschäftigte bewertet. Solche Systeme stuft der AI Act als Hochrisiko ein, mit umfangreichen Pflichten ab Dezember 2027. Ein Produkt, das die Hochrisiko-Anforderungen schon heute erfüllt, erspart die spätere Umstellung.
Für 62 Prozent der Deutschen ist das Vertrauen in den Anbieter ausschlaggebend dafür, welchen KI-Dienst sie wählen (repräsentative Bitkom-Umfrage). Offener Umgang mit KI ist damit auch ein Verkaufsargument. Eine sichtbare Kennzeichnung im Kundenkontakt erfüllt nebenbei die Transparenzpflicht der KI-Verordnung.
