- Art. 6Einstufungsvorschriften für Hochrisiko-KI-Systeme
- Art. 7Änderungen des Anhangs III
- Art. 8Einhaltung der Anforderungen
- Art. 9Risikomanagementsystem
- Art. 10Daten und Daten-Governance
- Art. 11Technische Dokumentation
- Art. 12Aufzeichnungspflichten
- Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber
- Art. 14Menschliche Aufsicht
- Art. 15Genauigkeit, Robustheit und Cybersicherheit
- Art. 16Pflichten der Anbieter von Hochrisiko-KI-Systemen
- Art. 17Qualitätsmanagementsystem
- Art. 18Aufbewahrung der Dokumentation
- Art. 19Automatisch erzeugte Protokolle
- Art. 20Korrekturmaßnahmen und Informationspflicht
- Art. 21Zusammenarbeit mit den zuständigen Behörden
- Art. 22Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
- Art. 23Pflichten der Einführer
- Art. 24Pflichten der Händler
- Art. 25Verantwortlichkeiten entlang der KI-Wertschöpfungskette
- Art. 26Pflichten der Betreiber von Hochrisiko-KI-Systemen
- Art. 27Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
- Art. 28Notifizierende Behörden
- Art. 29Antrag einer Konformitätsbewertungsstelle auf Notifizierung
- Art. 30Notifizierungsverfahren
- Art. 31Anforderungen an notifizierte Stellen
- Art. 32Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
- Art. 33Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
- Art. 34Operative Pflichten der notifizierten Stellen
- Art. 35Identifizierungsnummern und Verzeichnisse notifizierter Stellen
- Art. 36Änderungen der Notifizierungen
- Art. 37Anfechtungen der Kompetenz notifizierter Stellen
- Art. 38Koordinierung der notifizierten Stellen
- Art. 39Konformitätsbewertungsstellen in Drittländern
- Art. 40Harmonisierte Normen und Normungsdokumente
- Art. 41Gemeinsame Spezifikationen
- Art. 42Vermutung der Konformität mit bestimmten Anforderungen
- Art. 43Konformitätsbewertung
- Art. 44Bescheinigungen
- Art. 45Informationspflichten der notifizierten Stellen
- Art. 46Ausnahme vom Konformitätsbewertungsverfahren
- Art. 47EU-Konformitätserklärung
- Art. 48CE-Kennzeichnung
- Art. 49Registrierung
- Art. 51Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 52Verfahren
- Art. 53Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 54Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 55Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 56Praxisleitfäden
- Art. 57KI-Reallabore
- Art. 58Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
- Art. 59Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
- Art. 60Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 60aTests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 61Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 62Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
- Art. 63Ausnahmen für bestimmte Akteure
- Art. 64Büro für Künstliche Intelligenz
- Art. 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
- Art. 66Aufgaben des KI-Gremiums
- Art. 67Beratungsforum
- Art. 68Wissenschaftliches Gremium unabhängiger Sachverständiger
- Art. 69Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
- Art. 70Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle
- Art. 72Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme
- Art. 73Meldung schwerwiegender Vorfälle
- Art. 74Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
- Art. 75Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe
- Art. 75aAufsichts- und Durchsetzungsbefugnisse des Büros für Künstliche Intelligenz
- Art. 75bVerpflichtungszusagen
- Art. 75cVerstöße, Geldbußen und Zwangsgelder
- Art. 75dSchutzvorkehrungen und weitere Spezifizierung
- Art. 76Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
- Art. 77Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden
- Art. 78Vertraulichkeit
- Art. 79Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen
- Art. 80Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden
- Art. 81Schutzklauselverfahren der Union
- Art. 82Konforme KI-Systeme, die ein Risiko bergen
- Art. 83Formale Nichtkonformität
- Art. 84Unionsstrukturen zur Unterstützung der Prüfung von KI
- Art. 85Recht auf Beschwerde bei einer Marktüberwachungsbehörde
- Art. 86Recht auf Erläuterung der Entscheidungsfindung im Einzelfall
- Art. 87Meldung von Verstößen und Schutz von Hinweisgebern
- Art. 88Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 89Überwachungsmaßnahmen
- Art. 90Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken
- Art. 91Befugnis zur Anforderung von Dokumentation und Informationen
- Art. 92Befugnis zur Durchführung von Bewertungen
- Art. 93Befugnis zur Aufforderung zu Maßnahmen
- Art. 94Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck
- Art. 102Änderung der Verordnung (EG) Nr. 300/2008
- Art. 103Änderung der Verordnung (EU) Nr. 167/2013
- Art. 104Änderung der Verordnung (EU) Nr. 168/2013
- Art. 105Änderung der Richtlinie 2014/90/EU
- Art. 106Änderung der Richtlinie (EU) 2016/797
- Art. 107Änderung der Verordnung (EU) 2018/858
- Art. 108Änderungen der Verordnung (EU) 2018/1139
- Art. 109Änderung der Verordnung (EU) 2019/2144
- Art. 110Änderung der Richtlinie (EU) 2020/1828
- Art. 111Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck
- Art. 112Bewertung und Überprüfung
- Art. 113Inkrafttreten und Geltungsbeginn
KI-VO Artikel 27
Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
(1)
Vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäß Artikel 6 Absatz 2 — mit Ausnahme von Hochrisiko-KI-Systemen, die in dem in Anhang III Nummer 2 aufgeführten Bereich verwendet werden sollen — führen Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b und c eine Abschätzung der Auswirkungen, die die Verwendung eines solchen Systems auf die Grundrechte haben kann, durch. Zu diesem Zweck führen die Betreiber eine Abschätzung durch, die Folgendes umfasst:
a)
eine Beschreibung der Verfahren des Betreibers, bei denen das Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung verwendet wird;
b)
eine Beschreibung des Zeitraums und der Häufigkeit, innerhalb dessen bzw. mit der jedes Hochrisiko-KI-System verwendet werden soll;
c)
die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung im spezifischen Kontext betroffen sein könnten;
d)
die spezifischen Schadensrisiken, die sich auf die gemäß Buchstabe c dieses Absatzes ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten, unter Berücksichtigung der vom Anbieter gemäß Artikel 13 bereitgestellten Informationen;
e)
eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht entsprechend den Betriebsanleitungen;
f)
die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind, einschließlich der Regelungen für die interne Unternehmensführung und Beschwerdemechanismen.
(2)
Die in Absatz 1 festgelegte Pflicht gilt für die erste Verwendung eines Hochrisiko-KI-Systems. Der Betreiber kann sich in ähnlichen Fällen auf zuvor durchgeführte Grundrechte-Folgenabschätzungen oder bereits vorhandene Folgenabschätzungen, die vom Anbieter durchgeführt wurden, stützen. Gelangt der Betreiber während der Verwendung des Hochrisiko-KI-Systems zur Auffassung, dass sich eines der in Absatz 1 aufgeführten Elemente geändert hat oder nicht mehr auf dem neuesten Stand ist, so unternimmt der Betreiber die erforderlichen Schritte, um die Informationen zu aktualisieren.
(3)
Sobald die Abschätzung gemäß Absatz 1 des vorliegenden Artikels durchgeführt wurde, teilt der Betreiber der Marktüberwachungsbehörde ihre Ergebnisse mit, indem er das ausgefüllte, in Absatz 5 des vorliegenden Artikels genannte Muster als Teil der Mitteilung übermittelt. In dem in Artikel 46 Absatz 1 genannten Fall können die Betreiber von der Mitteilungspflicht befreit werden.
(4)
Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, kann der Betreiber bei der Durchführung der Grundrechte-Folgenabschätzung gemäß Absatz 1 dieses Artikels entweder Verweise auf die einschlägigen Abschnitte dieser Datenschutz-Folgenabschätzung oder die einschlägigen Teile ebendieser in die Grundrechte-Folgenabschätzung aufnehmen.
(5)
Das Büro für Künstliche Intelligenz erarbeitet ein Muster für einen Fragebogen — auch mithilfe eines automatisierten Instruments —, um die Betreiber in die Lage zu versetzen, ihren Pflichten gemäß diesem Artikel in vereinfachter Weise nachzukommen. In diesem Muster wird den Betreibern gegebenenfalls die Möglichkeit gegeben, gemäß Absatz 4 Verweise auf die einschlägigen Abschnitte der Datenschutz-Folgenabschätzung oder die einschlägigen Teile ebendieser in die Grundrechte-Folgenabschätzung aufzunehmen.
