Glossareintrag
Wir denken. KI tippt mit.
Konformitätsbewertung bei KI (englisch: Conformity Assessment, im Gesetz auch Konformitätsbewertungsverfahren) ist die Prüfung, mit der der Anbieter eines Hochrisiko-KI-Systems vor dem Verkauf oder der ersten Nutzung nachweist, dass es die Anforderungen der KI-Verordnung erfüllt. Am Ende stehen die EU-Konformitätserklärung und die CE-Kennzeichnung. Artikel 3 Nummer 20 der KI-Verordnung definiert den Begriff als „ein Verfahren mit dem bewertet wird, ob die … festgelegten Anforderungen an ein Hochrisiko-KI-System erfüllt wurden“. Gemeint sind die Anforderungen aus Kapitel III Abschnitt 2 des Gesetzes, also Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Das Gesetz kennt zwei Grundformen, dazu für KI in Produkten das Verfahren des jeweiligen Produktrechts. Bei der internen Kontrolle nach Anhang VI (auch Selbstbewertung genannt) prüft der Anbieter in eigener Verantwortung. Bei der Prüfung nach Anhang VII bewertet eine notifizierte Stelle (englisch Notified Body, in älteren Richtlinien und in der Medizinprodukteverordnung „benannte Stelle“) das Qualitätsmanagementsystem des Anbieters und seine technische Dokumentation. Welche Form gilt, regelt Artikel 43 der KI-Verordnung. Für fast alle eigenständigen Hochrisiko-Systeme aus Anhang III (von der Bewerberauswahl bis zur Kreditwürdigkeitsprüfung) genügt die interne Kontrolle. Eine notifizierte Stelle ist Pflicht bei biometrischen Systemen, solange der Anbieter harmonisierte Normen oder gemeinsame Spezifikationen nicht vollständig anwendet. Normen für die Anforderungen an das System selbst gibt es noch nicht. Pflicht ist sie auch bei KI in Produkten, deren Produktrecht schon heute eine Drittprüfung verlangt (z. B. Gasgeräte oder Medizinprodukte). Maschinen mit lernenden Sicherheitsfunktionen laufen seit dem Digital Omnibus über die Maschinenverordnung, die ebenfalls eine Prüfstelle vorschreibt.
Die Pflicht trifft den Anbieter (den Hersteller des KI-Systems) ab dem 2. Dezember 2027 für Systeme aus Anhang III und ab dem 2. August 2028 für KI in Produkten aus Anhang I. Ein Unternehmen, das ein fertiges System nur einsetzt, führt keine Konformitätsbewertung durch. Es achtet beim Kauf darauf, dass CE-Kennzeichnung und EU-Konformitätserklärung vorliegen.
(Hinweis: Verwechselbar mit freiwilligen KI-Zertifikaten wie der Zertifizierung nach ISO/IEC 42001 oder den Prüfsiegeln der TÜV-Gesellschaften. Sie belegen ein Managementsystem oder eine Produktqualität. Die gesetzliche Konformitätsbewertung ersetzen sie nicht. Auch die Datenschutz-Folgenabschätzung nach der DSGVO und die Grundrechte-Folgenabschätzung nach Artikel 27 der KI-Verordnung sind andere Instrumente. Sie bewerten einen konkreten Einsatz, die Konformitätsbewertung das Produkt.)
Die Konformitätsbewertung ist aus dem europäischen Produktrecht übernommen. Dort prüft der Hersteller seit Jahrzehnten nach festgelegten Modulen selbst oder lässt prüfen. Mit dem CE-Zeichen erklärt er das Ergebnis. Die KI-Verordnung (Verordnung (EU) 2024/1689, Volltext auf EUR-Lex) überträgt dieses Prinzip auf Software. Nach Erwägungsgrund 123 sollen Hochrisiko-KI-Systeme „einer Konformitätsbewertung unterzogen werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden“, um ein hohes Maß an Vertrauenswürdigkeit zu sichern. Die Kommission schreibt auf ihrer Seite „Your Europe“ zur CE-Kennzeichnung, es gebe keine zentrale EU-Stelle, die eine Genehmigung oder ein Zertifikat für das Zeichen erteilt. Wer es anbringt, übernimmt nach Artikel 30 der Verordnung (EG) Nr. 765/2008 die Verantwortung für die Konformität. Für die Konformitätsbewertung ist nur der Anbieter zuständig, nicht der Betreiber.
Weg 1, interne Kontrolle nach Anhang VI. Für Hochrisiko-KI-Systeme aus Anhang III Nummern 2 bis 8 gilt nach Artikel 43 Absatz 2 „das Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle gemäß Anhang VI, das keine Beteiligung einer notifizierten Stelle vorsieht“. Das betrifft KI für kritische Infrastruktur, Bildung, Personalwesen, Kredit- und Versicherungsentscheidungen, Strafverfolgung, Migration, Justiz und Wahlen. Anhang VI verlangt vom Anbieter zuerst die Prüfung, ob sein Qualitätsmanagementsystem Artikel 17 entspricht. Er prüft anhand der technischen Dokumentation nach Anhang IV, ob das System die Anforderungen aus Kapitel III Abschnitt 2 erfüllt. Und er stellt fest, ob Entwurf, Entwicklung und die Beobachtung nach dem Inverkehrbringen (Artikel 72) mit dieser Dokumentation übereinstimmen. Laut Erwägungsgrund 125 verzichtet der Gesetzgeber hier wegen der „derzeitigen Erfahrung professioneller dem Inverkehrbringen vorgeschalteter Zertifizierer“ auf Prüfstellen. Die Drittprüfung solle „zumindest während der anfänglichen Anwendung dieser Verordnung“ eingeschränkt bleiben. Artikel 43 Absatz 6 erlaubt der Kommission, diese Systeme später per delegiertem Rechtsakt ganz oder teilweise in das Verfahren mit notifizierter Stelle zu überführen. Vorher muss sie prüfen, ob die Stellen genug Kapazität haben.
Weg 2, Prüfung durch eine notifizierte Stelle nach Anhang VII. Hat der Anbieter eines biometrischen Systems (Anhang III Nummer 1) harmonisierte Normen oder gemeinsame Spezifikationen vollständig angewandt, darf er zwischen interner Kontrolle und Prüfstelle wählen. Gibt es keine, wendet er sie nicht oder nur teilweise an, ist Anhang VII Pflicht. Die Stelle bewertet dann das Qualitätsmanagementsystem und die technische Dokumentation. Sie „erhält … uneingeschränkten Zugang zu den verwendeten Trainings-, Validierungs- und Testdatensätzen“. Auf begründeten Antrag und nach Ausschöpfen aller anderen Möglichkeiten bekommt sie auch Zugang zu den trainierten Modellen samt Parametern. Sie kann eigene Tests fahren. Scheitert das System an den Trainingsdaten, „muss das KI-System vor der Beantragung einer neuen Konformitätsbewertung erneut trainiert werden“. Besteht es, stellt die Stelle eine Unionsbescheinigung aus, die nach Artikel 44 maximal vier Jahre gilt (fünf Jahre bei Produkten aus Anhang I) und per Neubewertung verlängert wird. Danach folgen regelmäßige Überwachungsaudits mit Prüfbericht. Soll ein biometrisches System bei Strafverfolgungs-, Einwanderungs- oder Asylbehörden laufen, übernimmt die Marktüberwachungsbehörde die Rolle der notifizierten Stelle.
Weg 3, KI in geprüften Produkten aus Anhang I. Steckt die KI als Sicherheitsbauteil in einem Aufzug, einem Gasgerät, einem Druckgerät oder einem Medizinprodukt, läuft nach Artikel 43 Absatz 3 das Konformitätsbewertungsverfahren des jeweiligen Produktrechts. Die KI-Anforderungen „werden in diese Bewertung einbezogen“. Geprüft wird nur einmal. Der Digital Omnibus hat diesen Absatz im Juli 2026 an vier Stellen umgeschrieben. Erfüllen die nach Produktrecht notifizierten Stellen die Anforderungen aus Artikel 31, dürfen sie die KI-Anforderungen mitprüfen. Ihre Benennung nach der KI-Verordnung müssen sie „bis 28. Januar 2028“ beantragen. Ein Hersteller muss keine Drittprüfung wählen, „nur weil das Produkt ein Hochrisiko-KI-System als Sicherheitsbauteil enthält“, solange sein Produktrecht sie nicht verlangt. Fällt ein System sowohl unter Anhang I als auch unter Anhang III, gilt das Verfahren des Produktrechts. Maschinen stehen seit dem Omnibus nicht mehr in Abschnitt A, sondern in Abschnitt B von Anhang I. Für sie gilt die Konformitätsbewertung der KI-Verordnung nicht. Die KI-Anforderungen kommen über die Maschinenverordnung (EU) 2023/1230. Erwägungsgrund 124 nennt als Ziel, dass „möglichst wenig Aufwand entsteht und etwaige Doppelarbeit vermieden wird“.
Was nach der Prüfung folgt. Artikel 16 Buchstaben f bis i zählen die Kette auf: Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung, Registrierung.
Wesentliche Veränderung. Artikel 3 Nummer 23 nennt so eine Veränderung nach dem Inverkehrbringen, die „in der vom Anbieter durchgeführten ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant war“ und die Konformität beeinträchtigt oder die Zweckbestimmung ändert. Sie löst nach Artikel 43 Absatz 4 eine neue Konformitätsbewertung aus, egal ob der Anbieter das System weiter vertreibt oder nur der bisherige Betreiber es weiternutzt. Als Beispiel nennt Erwägungsgrund 128 die „Änderung des Betriebssystems oder der Softwarearchitektur“. Für Systeme, die nach dem Verkauf weiterlernen, gilt eine Ausnahme. Änderungen, die der Anbieter bei der ersten Bewertung vorab festgelegt und in der technischen Dokumentation beschrieben hat, sind keine wesentliche Veränderung. Bei Systemen mit Prüfstelle entscheidet die Stelle, ob eine Änderung eine neue Bewertung verlangt oder ein Nachtrag zur Bescheinigung reicht.
Von den harmonisierten Normen ist erst eine fertig. Wer eine harmonisierte Norm anwendet, deren Fundstelle im Amtsblatt steht, darf nach Artikel 40 die Konformität vermuten, soweit die Norm die Anforderung abdeckt. Die Kommission hat die Normen im Mai 2023 bei CEN und CENELEC in Auftrag gegeben (Normungsauftrag M/593). Im Juni 2025 hat sie den Auftrag neu gefasst (Beschluss C(2025) 3871) und eine Frist bis 31. August 2025 gesetzt, die verstrichen ist. Der Beschluss läuft am 28. Februar 2027 aus. Laut der Übersichtsseite der Kommission zur KI-Normung umfasst der Auftrag zehn Bereiche, von Risikomanagement über Datenqualität bis zur Konformitätsbewertung selbst. Fertig ist bisher eine einzige Norm, die EN 18286:2026 zum Qualitätsmanagementsystem. Das DIN hat sie im September 2026 als DIN EN 18286 übernommen. Seit dem 14. Oktober 2026 steht ihre Fundstelle im Amtsblatt (Durchführungsbeschluss (EU) 2026/2274 vom 12. Oktober 2026). Für die von ihr abgedeckten Anforderungen aus Artikel 17 gilt damit die Konformitätsvermutung. Die Norm zum Konformitätsbewertungsverfahren (Entwurf prEN 18285) ist in Arbeit. Gemeinsame Spezifikationen der Kommission nach Artikel 41, die fehlende Normen ersetzen könnten, gibt es nicht. Der Omnibus hat eine Brücke zum Cyber Resilience Act gebaut. Erfüllt ein Hochrisiko-KI-System dessen Anforderungen, gilt die Cybersicherheitsanforderung aus Artikel 15 als eingehalten (Artikel 42 Absatz 3). Erwägungsgrund 40 der Änderungsverordnung (EU) 2026/1744 (Amtsblatt-Fassung auf EUR-Lex) begründet die Verschiebung der Hochrisiko-Pflichten mit der verzögerten Verfügbarkeit von Normen, gemeinsamen Spezifikationen und Leitlinien und mit der verzögerten Einrichtung der nationalen Behörden.
Notifizierte Stellen gibt es noch keine. Die NANDO-Datenbank der Kommission führt die KI-Verordnung als Rechtsakt, listet darunter am 24. Oktober 2026 aber null Stellen. Die DEKRA meldete im März 2026 als erste Zertifizierungsstelle eine Akkreditierung für biometrische KI-Systeme durch die niederländische Akkreditierungsstelle RvA. Eine Akkreditierung ist die Vorstufe. Die Notifizierung durch den Mitgliedstaat steht noch aus. In Deutschland regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, in Kraft seit 29. Juli 2026) in Paragraf 3, wer Stellen benennt. Für KI in Produkten bleiben die notifizierenden Behörden des jeweiligen Produktrechts zuständig. Nach der Übersicht der Bundesnetzagentur sind das z. B. die ZLG für Medizinprodukte, die ZLS für die meisten übrigen Produkte und die Bundesnetzagentur selbst für Funkanlagen. Für biometrische Systeme ist vorläufig das BSI zuständig. Die DAkkS bewertet und überwacht dort die Stellen. Nach Artikel 31 muss eine notifizierte Stelle vom Anbieter und von Wettbewerbern unabhängig sein. Artikel 34 verpflichtet sie, Verwaltungsaufwand und Befolgungskosten „für Kleinstunternehmen und kleine Unternehmen“ zu minimieren. Freiwillige Prüfsiegel füllen die Lücke nicht. TÜV NORD kündigte im September 2026 ein dreistufiges Zertifizierungsprogramm für KI-Systeme ab Ende 2026 an und schreibt selbst: „Es ersetzt jedoch keine gesetzlich vorgeschriebene Konformitätsbewertung.“ Dasselbe gilt für Zertifikate nach ISO/IEC 42001, der Norm für KI-Managementsysteme.
Kosten. Die Kommission hat in ihrer Folgenabschätzung von 2021 mit einem durchschnittlichen KI-System von 170.000 Euro Entwicklungskosten gerechnet. Für die Erfüllung der Anforderungen schätzte sie 6.000 bis 7.000 Euro je System. Eine notifizierte Stelle kostet nach dieser Rechnung 3.000 bis 7.500 Euro für die Prüfung der Dokumentation (ein bis zweieinhalb Tage) und 1.000 bis 2.000 Euro pro Tag für das erste Audit des Qualitätsmanagementsystems. Die jährlichen Folgeaudits fallen kleiner aus.
Fristen, Ausnahmen, Bußgelder. Nach dem geänderten Zeitplan der KI-Verordnung (Artikel 113) gilt die Pflicht zur Konformitätsbewertung ab dem 2. Dezember 2027 für Anhang-III-Systeme und ab dem 2. August 2028 für KI in Anhang-I-Produkten. Systeme, die vorher auf dem Markt sind, erfasst Artikel 111 nur, wenn sie danach „in ihrer Konzeption erheblich verändert“ werden. Systeme bei Behörden müssen bis 2. August 2030 konform sein. Artikel 46 erlaubt der Marktüberwachungsbehörde, ein System auf begründetes Ersuchen aus außergewöhnlichen Gründen der öffentlichen Sicherheit, des Gesundheitsschutzes oder zum Schutz wichtiger Infrastruktur befristet ohne abgeschlossene Konformitätsbewertung zuzulassen. Verstöße des Anbieters gegen Artikel 16 (auch eine fehlende Konformitätsbewertung, Erklärung oder CE-Kennzeichnung) kosten nach Artikel 99 Absatz 4 bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Falsche oder irreführende Angaben gegenüber einer notifizierten Stelle oder Behörde kosten bis zu 7,5 Millionen Euro oder 1 Prozent. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag. Nach dem Verkauf geht die Pflicht weiter. Der Anbieter beobachtet das System nach Artikel 72 und meldet schwerwiegende Vorfälle nach Artikel 73 (Vorfallsmeldung).
Handwerksbetriebe und lokale Unternehmen stehen bei der Konformitätsbewertung fast immer auf der Käuferseite. Wer eine Maschine, einen Roboter oder eine Software mit KI einsetzt, prüft nicht selbst, sondern verlangt vom Hersteller den Nachweis. Vor dem ersten Einsatz gehören das CE-Zeichen am Produkt, die EU-Konformitätserklärung und eine Betriebsanleitung in deutscher Sprache auf den Tisch. Nach der Maschinenverordnung muss der Hersteller die Erklärung mitliefern oder in der Betriebsanleitung per Internetadresse oder maschinenlesbarem Code zugänglich machen. Steht neben dem CE-Zeichen eine vierstellige Nummer, war eine notifizierte Stelle beteiligt. Fehlt die Nummer, kann trotzdem eine Stelle beteiligt gewesen sein, z. B. bei einer Baumusterprüfung nach der alten Maschinenrichtlinie. Klarheit bringt die Konformitätserklärung. Sie nennt die beteiligte Stelle. Die Betriebssicherheitsverordnung verlangt in Paragraf 5 Absatz 3, dass ein Arbeitgeber nur Arbeitsmittel bereitstellt, „die den für sie geltenden Rechtsvorschriften über Sicherheit und Gesundheitsschutz entsprechen“. Die eigene Gefährdungsbeurteilung nach Paragraf 3 kommt in jedem Fall dazu. Das CE-Zeichen ersetzt sie nicht.
Maschinen und Roboter mit lernender Sicherheitsfunktion. Ab dem 20. Januar 2027 gilt die Maschinenverordnung (EU) 2023/1230 anstelle der Maschinenrichtlinie. Ihr Anhang I Teil A führt „Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten“ auf, ebenso Maschinen mit solchen eingebetteten Systemen. Für Produkte aus Teil A sind nur Verfahren mit notifizierter Stelle erlaubt (EU-Baumusterprüfung, umfassende Qualitätssicherung oder Einzelprüfung). Die interne Fertigungskontrolle, mit der Hersteller heute die meisten Maschinen selbst bewerten, scheidet dort aus. Betroffen sind z. B. eine Kamera, die Menschen in einer Roboterzelle erkennt und den Sicherheitsstopp auslöst, oder ein Cobot, dessen Kollisionserkennung mitlernt. Dasselbe gilt für einen humanoiden Roboter, wenn ein Vision-Language-Action-Modell seine Sicherheitsfunktionen steuert. Nicht betroffen ist fest programmierte Software, die nicht lernt. Wo die Grenze liegt, ist offen. Die DGUV schreibt in ihren Fragen und Antworten zur Maschinenverordnung, der Begriff sei „nicht selbsterklärend und auch nicht definiert“. Nach Anhang III der Maschinenverordnung darf eine solche Maschine nicht über die festgelegte Aufgabe und den festgelegten Bewegungsbereich hinaus handeln, muss die Daten ihrer sicherheitsrelevanten Entscheidungen ein Jahr lang speichern und jederzeit korrigierbar bleiben. Zusätzliche Anforderungen aus der KI-Verordnung kommen über delegierte Rechtsakte zur Maschinenverordnung, die ab dem 2. August 2028 gelten.
Wer kombiniert, wird Hersteller. Ein Roboterarm allein ist eine unvollständige Maschine mit Einbauerklärung. Stellt ein Metallbauer Arm, Greifer, Schweißquelle und Schutzzaun selbst zu einer Zelle zusammen, entsteht nach Artikel 3 der Maschinenverordnung eine „Gesamtheit von Maschinen“. Der Betrieb wird Hersteller dieser Anlage und schuldet die komplette Konformitätsbewertung mit Risikobeurteilung, technischen Unterlagen, Konformitätserklärung und CE-Zeichen für die ganze Zelle. Das Interpretationspapier von Bund und Ländern zur Gesamtheit von Maschinen (noch zur Maschinenrichtlinie verfasst) beschreibt die Abgrenzung. Entwickelt oder integriert der Betrieb ein lernendes Sicherheitssystem, das nicht schon als eigenes Bauteil geprüft auf den Markt kam, muss er dafür eine notifizierte Stelle einschalten. Wer das vermeiden will, kauft eine fertige Zelle mit einer Konformitätserklärung für die Gesamtanlage oder lässt sich im Vertrag einen Integrator als Hersteller benennen. Die Roboternormen EN ISO 10218-1 und 10218-2 in der Fassung von 2025 sind seit September 2026 als harmonisierte Normen zur Maschinenrichtlinie gelistet (Durchführungsbeschluss (EU) 2026/2015). Bestandsmaschinen bleiben unberührt. Eine Nachrüstpflicht entsteht laut DGUV aus der Maschinenverordnung nicht, solange der Betrieb keine wesentliche Veränderung vornimmt. Rüstet er eine gekaufte Maschine so um, dass eine KI die Sicherheitsfunktion übernimmt, wird er nach Artikel 18 der Maschinenverordnung selbst Hersteller.
Heizung, Lüftung, Medizintechnik. Gasgeräte benötigen nach der Gasgeräteverordnung (EU) 2016/426 immer eine notifizierte Stelle, Seriengeräte eine EU-Baumusterprüfung. Übernimmt in einer Gastherme eine lernende Regelung eine Sicherheitsfunktion (z. B. die Flammenüberwachung), ist sie ein Hochrisiko-KI-System nach Anhang I der KI-Verordnung, und die Gasgeräte-Prüfstelle prüft die KI-Anforderungen ab August 2028 mit. Optimiert die KI nur die Verbrennung oder den Stromverbrauch, ohne dass ihr Ausfall jemanden gefährdet, ist sie seit dem Digital Omnibus ausdrücklich kein Sicherheitsbauteil. Für den Heizungsbauer ändert sich beim Einbau nichts. Er montiert ein CE-gekennzeichnetes Gerät. Dasselbe Muster gilt für Medizinprodukte. Software, die Diagnose- oder Therapieentscheidungen unterstützt, ist nach der Medizinprodukteverordnung mindestens Klasse IIa und benötigt eine benannte Stelle. Für ein Dentallabor oder eine Physiotherapiepraxis, die solche Software kauft, bleibt die Prüfung Sache des Herstellers.
Eigene Software mit KI. Anders liegt der Fall, wenn ein Betrieb oder ein kleines Softwarehaus ein KI-System selbst baut oder bauen lässt und unter eigenem Namen nutzt. Die KI-Verordnung zählt auch den Eigengebrauch als Inbetriebnahme. Entwickelt ein Dachdeckerbetrieb mit 40 Beschäftigten ein Tool, das Bewerbungen bewertet und reiht, ist er Anbieter eines Hochrisiko-KI-Systems nach Anhang III Nummer 4 und muss ab dem 2. Dezember 2027 die interne Kontrolle nach Anhang VI durchlaufen. Dasselbe gilt für eine Handwerkersoftware, die die Zahlungsfähigkeit privater Kunden per KI bewertet (Anhang III Nummer 5). Konkret heißt das:
Eine notifizierte Stelle ist für diese Systeme nicht vorgesehen. Ein TÜV-Siegel ist freiwillig. Kleine und mittlere Unternehmen haben nach Artikel 58 kostenlosen Zugang zu den KI-Reallaboren. In Deutschland richtet die Bundesnetzagentur das nationale Reallabor bis August 2027 ein. Wer stattdessen ein fertiges Produkt eines Softwareherstellers einsetzt, bleibt Betreiber. Die Konformitätsbewertung liegt dann beim Hersteller, und der Betrieb fragt nach der Konformitätserklärung und dem Eintrag in der EU-Datenbank, so wie er bei einer Maschine nach dem CE-Zeichen fragt.