- Art. 6Einstufungsvorschriften für Hochrisiko-KI-Systeme
- Art. 7Änderungen des Anhangs III
- Art. 8Einhaltung der Anforderungen
- Art. 9Risikomanagementsystem
- Art. 10Daten und Daten-Governance
- Art. 11Technische Dokumentation
- Art. 12Aufzeichnungspflichten
- Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber
- Art. 14Menschliche Aufsicht
- Art. 15Genauigkeit, Robustheit und Cybersicherheit
- Art. 16Pflichten der Anbieter von Hochrisiko-KI-Systemen
- Art. 17Qualitätsmanagementsystem
- Art. 18Aufbewahrung der Dokumentation
- Art. 19Automatisch erzeugte Protokolle
- Art. 20Korrekturmaßnahmen und Informationspflicht
- Art. 21Zusammenarbeit mit den zuständigen Behörden
- Art. 22Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
- Art. 23Pflichten der Einführer
- Art. 24Pflichten der Händler
- Art. 25Verantwortlichkeiten entlang der KI-Wertschöpfungskette
- Art. 26Pflichten der Betreiber von Hochrisiko-KI-Systemen
- Art. 27Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
- Art. 28Notifizierende Behörden
- Art. 29Antrag einer Konformitätsbewertungsstelle auf Notifizierung
- Art. 30Notifizierungsverfahren
- Art. 31Anforderungen an notifizierte Stellen
- Art. 32Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
- Art. 33Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
- Art. 34Operative Pflichten der notifizierten Stellen
- Art. 35Identifizierungsnummern und Verzeichnisse notifizierter Stellen
- Art. 36Änderungen der Notifizierungen
- Art. 37Anfechtungen der Kompetenz notifizierter Stellen
- Art. 38Koordinierung der notifizierten Stellen
- Art. 39Konformitätsbewertungsstellen in Drittländern
- Art. 40Harmonisierte Normen und Normungsdokumente
- Art. 41Gemeinsame Spezifikationen
- Art. 42Vermutung der Konformität mit bestimmten Anforderungen
- Art. 43Konformitätsbewertung
- Art. 44Bescheinigungen
- Art. 45Informationspflichten der notifizierten Stellen
- Art. 46Ausnahme vom Konformitätsbewertungsverfahren
- Art. 47EU-Konformitätserklärung
- Art. 48CE-Kennzeichnung
- Art. 49Registrierung
- Art. 51Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 52Verfahren
- Art. 53Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 54Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 55Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 56Praxisleitfäden
- Art. 57KI-Reallabore
- Art. 58Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
- Art. 59Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
- Art. 60Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 60aTests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 61Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 62Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
- Art. 63Ausnahmen für bestimmte Akteure
- Art. 64Büro für Künstliche Intelligenz
- Art. 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
- Art. 66Aufgaben des KI-Gremiums
- Art. 67Beratungsforum
- Art. 68Wissenschaftliches Gremium unabhängiger Sachverständiger
- Art. 69Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
- Art. 70Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle
- Art. 72Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme
- Art. 73Meldung schwerwiegender Vorfälle
- Art. 74Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
- Art. 75Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe
- Art. 75aAufsichts- und Durchsetzungsbefugnisse des Büros für Künstliche Intelligenz
- Art. 75bVerpflichtungszusagen
- Art. 75cVerstöße, Geldbußen und Zwangsgelder
- Art. 75dSchutzvorkehrungen und weitere Spezifizierung
- Art. 76Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
- Art. 77Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden
- Art. 78Vertraulichkeit
- Art. 79Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen
- Art. 80Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden
- Art. 81Schutzklauselverfahren der Union
- Art. 82Konforme KI-Systeme, die ein Risiko bergen
- Art. 83Formale Nichtkonformität
- Art. 84Unionsstrukturen zur Unterstützung der Prüfung von KI
- Art. 85Recht auf Beschwerde bei einer Marktüberwachungsbehörde
- Art. 86Recht auf Erläuterung der Entscheidungsfindung im Einzelfall
- Art. 87Meldung von Verstößen und Schutz von Hinweisgebern
- Art. 88Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 89Überwachungsmaßnahmen
- Art. 90Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken
- Art. 91Befugnis zur Anforderung von Dokumentation und Informationen
- Art. 92Befugnis zur Durchführung von Bewertungen
- Art. 93Befugnis zur Aufforderung zu Maßnahmen
- Art. 94Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck
- Art. 102Änderung der Verordnung (EG) Nr. 300/2008
- Art. 103Änderung der Verordnung (EU) Nr. 167/2013
- Art. 104Änderung der Verordnung (EU) Nr. 168/2013
- Art. 105Änderung der Richtlinie 2014/90/EU
- Art. 106Änderung der Richtlinie (EU) 2016/797
- Art. 107Änderung der Verordnung (EU) 2018/858
- Art. 108Änderungen der Verordnung (EU) 2018/1139
- Art. 109Änderung der Verordnung (EU) 2019/2144
- Art. 110Änderung der Richtlinie (EU) 2020/1828
- Art. 111Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck
- Art. 112Bewertung und Überprüfung
- Art. 113Inkrafttreten und Geltungsbeginn
KI-VO Artikel 74
Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
(1)
Die Verordnung (EU) 2019/1020 gilt für KI-Systeme, die unter die vorliegende Verordnung fallen. Für die Zwecke einer wirksamen Durchsetzung der vorliegenden Verordnung gilt Folgendes:
a)
Jede Bezugnahme auf einen Wirtschaftsakteur nach der Verordnung (EU) 2019/1020 gilt auch als Bezugnahme auf alle Akteure, die in Artikel 2 Absatz 1 der vorliegenden Verordnung genannt werden;
b)
jede Bezugnahme auf ein Produkt nach der Verordnung (EU) 2019/1020 gilt auch als Bezugnahme auf alle KI-Systeme, die in den Anwendungsbereich der vorliegenden Verordnung fallen.
(2)
Im Rahmen ihrer Berichtspflichten gemäß Artikel 34 Absatz 4 der Verordnung (EU) 2019/1020 melden die Marktüberwachungsbehörden der Kommission und den einschlägigen nationalen Wettbewerbsbehörden jährlich alle Informationen, die sie im Verlauf ihrer Marktüberwachungstätigkeiten erlangt haben und die für die Anwendung von Unionsrecht im Bereich der Wettbewerbsregeln von Interesse sein könnten. Ferner erstatten sie der Kommission jährlich Bericht über die Anwendung verbotener Praktiken in dem betreffenden Jahr und über die ergriffenen Maßnahmen.
(3)
Bei Hochrisiko-KI-Systemen und damit in Zusammenhang stehenden Produkten, auf die die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anwendung finden, gilt als Marktüberwachungsbehörde für die Zwecke dieser Verordnung die in jenen Rechtsakten für die Marktüberwachung benannte Behörde.
Abweichend von Unterabsatz 1 und unter geeigneten Umständen können die Mitgliedstaaten eine andere einschlägige Behörde benennen, die die Funktion der Marktüberwachungsbehörde übernimmt, sofern sie die Koordinierung mit den einschlägigen sektorspezifischen Marktüberwachungsbehörden, die für die Durchsetzung der in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union zuständig sind, sicherstellen.
(4)
Die Verfahren gemäß den Artikeln 79 bis 83 der vorliegenden Verordnung gelten nicht für KI-Systeme, die im Zusammenhang mit Produkten stehen, auf die die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anwendung finden, wenn in diesen Rechtsakten bereits Verfahren, die ein gleichwertiges Schutzniveau sicherstellen und dasselbe Ziel haben, vorgesehen sind. In diesen Fällen kommen stattdessen die einschlägigen sektorspezifischen Verfahren zur Anwendung.
(5)
Unbeschadet der Befugnisse der Marktüberwachungsbehörden gemäß Artikel 14 der Verordnung (EU) 2019/1020 können die Marktüberwachungsbehörden für die Zwecke der Sicherstellung der wirksamen Durchsetzung der vorliegenden Verordnung die in Artikel 14 Absatz 4 Buchstaben d und j der genannten Verordnung genannten Befugnisse gegebenenfalls aus der Ferne ausüben.
(6)
Bei Hochrisiko-KI-Systemen, die von auf der Grundlage des Unionsrechts im Bereich der Finanzdienstleistungen regulierten Finanzinstituten in Verkehr gebracht, in Betrieb genommen oder verwendet werden, gilt die in jenen Rechtsvorschriften für die Finanzaufsicht über diese Institute benannte nationale Behörde als Marktüberwachungsbehörde für die Zwecke dieser Verordnung, sofern das Inverkehrbringen, die Inbetriebnahme oder die Verwendung des KI-Systems mit der Erbringung dieser Finanzdienstleistungen in direktem Zusammenhang steht.
(7)
Abweichend von Absatz 6 kann der Mitgliedstaat — unter geeigneten Umständen und wenn für Abstimmung gesorgt ist — eine andere einschlägige Behörde als Marktüberwachungsbehörde für die Zwecke dieser Verordnung benennen.
Nationale Marktüberwachungsbehörden, die unter die Richtlinie 2013/36/EU fallende Kreditinstitute, welche an dem mit der Verordnung (EU) Nr. 1024/2013 eingerichteten einheitlichen Aufsichtsmechanismus teilnehmen, beaufsichtigen, sollten der Europäischen Zentralbank unverzüglich alle im Zuge ihrer Marktüberwachungstätigkeiten ermittelten Informationen übermitteln, die für die in der genannten Verordnung festgelegten Aufsichtsaufgaben der Europäischen Zentralbank von Belang sein könnten.
(8)
Für die in Anhang III Nummer 1 der vorliegenden Verordnung genannten Hochrisiko-KI-Systeme, sofern diese Systeme für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden, und für die in Anhang III Nummern 6, 7 und 8 genannten Hochrisiko-KI-Systeme benennen die Mitgliedstaaten für die Zwecke dieser Verordnung als Marktüberwachungsbehörden entweder die nach der Verordnung (EU) 2016/679 oder der Richtlinie (EU) 2016/680 für den Datenschutz zuständigen Aufsichtsbehörden oder jede andere gemäß denselben Bedingungen wie den in den Artikeln 41 bis 44 der Richtlinie (EU) 2016/680 festgelegten benannte Behörde. Marktüberwachungstätigkeiten dürfen in keiner Weise die Unabhängigkeit von Justizbehörden beeinträchtigen oder deren Handlungen im Rahmen ihrer justiziellen Tätigkeit anderweitig beeinflussen.
(9)
Soweit Organe, Einrichtungen und sonstige Stellen der Union in den Anwendungsbereich dieser Verordnung fallen, übernimmt der Europäische Datenschutzbeauftragte die Funktion der für sie zuständigen Marktüberwachungsbehörde — ausgenommen für den Gerichtshof der Europäischen Union im Rahmen seiner Rechtsprechungstätigkeit.
(10)
Die Mitgliedstaaten erleichtern die Koordinierung zwischen den auf der Grundlage dieser Verordnung benannten Marktüberwachungsbehörden und anderen einschlägigen nationalen Behörden oder Stellen, die die Anwendung der in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union oder sonstigen Unionsrechts überwachen, das für die in Anhang III genannten Hochrisiko-KI-Systeme relevant sein könnte.
(11)
Die Marktüberwachungsbehörden und die Kommission können gemeinsame Tätigkeiten, einschließlich gemeinsamer Untersuchungen, vorschlagen, die von den Marktüberwachungsbehörden oder von den Marktüberwachungsbehörden gemeinsam mit der Kommission durchgeführt werden, um Konformität zu fördern, Nichtkonformität festzustellen, zu sensibilisieren oder Orientierung zu dieser Verordnung und bestimmten Kategorien von Hochrisiko-KI-Systemen, bei denen festgestellt wird, dass sie in zwei oder mehr Mitgliedstaaten gemäß Artikel 9 der Verordnung (EU) 2019/1020 ein ernstes Risiko darstellen, zu geben. Das Büro für Künstliche Intelligenz unterstützt die Koordinierung der gemeinsamen Untersuchungen.
(12)
Die Anbieter gewähren den Marktüberwachungsbehörden unbeschadet der Befugnisübertragung gemäß der Verordnung (EU) 2019/1020 — sofern dies relevant ist und beschränkt auf das zur Wahrnehmung der Aufgaben dieser Behörden erforderliche Maß — uneingeschränkten Zugang zur Dokumentation sowie zu den für die Entwicklung von Hochrisiko-KI-Systemen verwendeten Trainings-, Validierungs- und Testdatensätzen, gegebenenfalls und unter Einhaltung von Sicherheitsvorkehrungen auch über die Anwendungsprogrammierschnittstellen (im Folgenden „API“) oder andere einschlägige technische Mittel und Instrumente, die den Fernzugriff ermöglichen.
(13)
Zum Quellcode des Hochrisiko-KI-Systems erhalten Marktüberwachungsbehörden auf begründete Anfrage und nur dann Zugang, wenn die beiden folgenden Bedingungen erfüllt sind:
a)
Der Zugang zum Quellcode ist zur Bewertung der Konformität eines Hochrisiko-KI-Systems mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen notwendig und
b)
die Test- oder Prüfverfahren und Überprüfungen aufgrund der vom Anbieter bereitgestellten Daten und Dokumentation wurden ausgeschöpft oder haben sich als unzureichend erwiesen.
(14)
Jegliche Informationen oder Dokumentation, in deren Besitz die Marktüberwachungsbehörden gelangen, werden im Einklang mit den in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt.
Themenverwandte Erwägungsgründe
(156) System der Marktüberwachung und der Konformität von Produkten(157) Stellung von nationalen Behörden oder weiteren Stellen im Verhältnis zu den Regelungen dieser Verordnung
(158) Kohärente Anwendung und Durchsetzung der Pflichten bezüglich Finanzdienstleistungen
(159) Befugnisse von Marktüberwachungsbehörden für Hochrisiko-KI-Systeme im Bereich der biometrischen Daten
(160) Gemeinsame Tätigkeiten der Marktüberwachungsbehörden der Mitgliedstaaten bzw. der Kommission
