- Art. 6Einstufungsvorschriften für Hochrisiko-KI-Systeme
- Art. 7Änderungen des Anhangs III
- Art. 8Einhaltung der Anforderungen
- Art. 9Risikomanagementsystem
- Art. 10Daten und Daten-Governance
- Art. 11Technische Dokumentation
- Art. 12Aufzeichnungspflichten
- Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber
- Art. 14Menschliche Aufsicht
- Art. 15Genauigkeit, Robustheit und Cybersicherheit
- Art. 16Pflichten der Anbieter von Hochrisiko-KI-Systemen
- Art. 17Qualitätsmanagementsystem
- Art. 18Aufbewahrung der Dokumentation
- Art. 19Automatisch erzeugte Protokolle
- Art. 20Korrekturmaßnahmen und Informationspflicht
- Art. 21Zusammenarbeit mit den zuständigen Behörden
- Art. 22Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
- Art. 23Pflichten der Einführer
- Art. 24Pflichten der Händler
- Art. 25Verantwortlichkeiten entlang der KI-Wertschöpfungskette
- Art. 26Pflichten der Betreiber von Hochrisiko-KI-Systemen
- Art. 27Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
- Art. 28Notifizierende Behörden
- Art. 29Antrag einer Konformitätsbewertungsstelle auf Notifizierung
- Art. 30Notifizierungsverfahren
- Art. 31Anforderungen an notifizierte Stellen
- Art. 32Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
- Art. 33Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
- Art. 34Operative Pflichten der notifizierten Stellen
- Art. 35Identifizierungsnummern und Verzeichnisse notifizierter Stellen
- Art. 36Änderungen der Notifizierungen
- Art. 37Anfechtungen der Kompetenz notifizierter Stellen
- Art. 38Koordinierung der notifizierten Stellen
- Art. 39Konformitätsbewertungsstellen in Drittländern
- Art. 40Harmonisierte Normen und Normungsdokumente
- Art. 41Gemeinsame Spezifikationen
- Art. 42Vermutung der Konformität mit bestimmten Anforderungen
- Art. 43Konformitätsbewertung
- Art. 44Bescheinigungen
- Art. 45Informationspflichten der notifizierten Stellen
- Art. 46Ausnahme vom Konformitätsbewertungsverfahren
- Art. 47EU-Konformitätserklärung
- Art. 48CE-Kennzeichnung
- Art. 49Registrierung
- Art. 51Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 52Verfahren
- Art. 53Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 54Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 55Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
- Art. 56Praxisleitfäden
- Art. 57KI-Reallabore
- Art. 58Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
- Art. 59Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
- Art. 60Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 60aTests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 61Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
- Art. 62Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
- Art. 63Ausnahmen für bestimmte Akteure
- Art. 64Büro für Künstliche Intelligenz
- Art. 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
- Art. 66Aufgaben des KI-Gremiums
- Art. 67Beratungsforum
- Art. 68Wissenschaftliches Gremium unabhängiger Sachverständiger
- Art. 69Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
- Art. 70Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle
- Art. 72Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme
- Art. 73Meldung schwerwiegender Vorfälle
- Art. 74Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
- Art. 75Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe
- Art. 75aAufsichts- und Durchsetzungsbefugnisse des Büros für Künstliche Intelligenz
- Art. 75bVerpflichtungszusagen
- Art. 75cVerstöße, Geldbußen und Zwangsgelder
- Art. 75dSchutzvorkehrungen und weitere Spezifizierung
- Art. 76Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
- Art. 77Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden
- Art. 78Vertraulichkeit
- Art. 79Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen
- Art. 80Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden
- Art. 81Schutzklauselverfahren der Union
- Art. 82Konforme KI-Systeme, die ein Risiko bergen
- Art. 83Formale Nichtkonformität
- Art. 84Unionsstrukturen zur Unterstützung der Prüfung von KI
- Art. 85Recht auf Beschwerde bei einer Marktüberwachungsbehörde
- Art. 86Recht auf Erläuterung der Entscheidungsfindung im Einzelfall
- Art. 87Meldung von Verstößen und Schutz von Hinweisgebern
- Art. 88Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- Art. 89Überwachungsmaßnahmen
- Art. 90Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken
- Art. 91Befugnis zur Anforderung von Dokumentation und Informationen
- Art. 92Befugnis zur Durchführung von Bewertungen
- Art. 93Befugnis zur Aufforderung zu Maßnahmen
- Art. 94Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck
- Art. 102Änderung der Verordnung (EG) Nr. 300/2008
- Art. 103Änderung der Verordnung (EU) Nr. 167/2013
- Art. 104Änderung der Verordnung (EU) Nr. 168/2013
- Art. 105Änderung der Richtlinie 2014/90/EU
- Art. 106Änderung der Richtlinie (EU) 2016/797
- Art. 107Änderung der Verordnung (EU) 2018/858
- Art. 108Änderungen der Verordnung (EU) 2018/1139
- Art. 109Änderung der Verordnung (EU) 2019/2144
- Art. 110Änderung der Richtlinie (EU) 2020/1828
- Art. 111Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck
- Art. 112Bewertung und Überprüfung
- Art. 113Inkrafttreten und Geltungsbeginn
KI-VO Artikel 57
KI-Reallabore
(1)
Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene einrichten, das bis zum 2. August 2027 einsatzbereit sein muss. Dieses Reallabor kann auch gemeinsam mit den zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. Die Kommission kann technische Unterstützung, Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen.
Die Verpflichtung nach Unterabsatz 1 kann auch durch Beteiligung an einem bestehenden Reallabor erfüllt werden, sofern eine solche Beteiligung die nationale Abdeckung der teilnehmenden Mitgliedstaaten in gleichwertigem Maße gewährleistet.
(2)
Es können auch zusätzliche KI-Reallabore auf regionaler oder lokaler Ebene oder gemeinsam mit den zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden;
(3)
Der Europäische Datenschutzbeauftragte kann ein KI-Reallabor für die Organe, Einrichtungen und sonstigen Stellen der Union einrichten. Für diesen Zweck gelten Bezugnahmen auf die zuständigen nationalen Behörden in diesem Kapitel als Bezugnahmen auf den Europäischen Datenschutzbeauftragten.
(3a)
Das Büro für Künstliche Intelligenz kann auf Unionsebene ein KI-Reallabor für KI-Systeme einrichten, die unter Artikel 75 Absatz 1 fallen. Für diesen Zweck gelten Bezugnahmen auf die zuständigen nationalen Behörden in diesem Kapitel gegebenenfalls als Bezugnahmen auf das Büro für Künstliche Intelligenz. Diese KI-Reallabor wird in enger Zusammenarbeit mit den jeweils zuständigen Behörden umgesetzt, insbesondere wenn die Einhaltung anderer Rechtsvorschriften der Union als dieser Verordnung im KI-Reallabor beaufsichtigt wird, und gewährt KMU, einschließlich Start-up-Unternehmen, und kleinen Midcap-Unternehmen vorrangigen Zugang dazu.
Die Einrichtung eines KI-Reallabors auf Unionsebene durch das Büro für Künstliche Intelligenz lässt die Zuständigkeiten der Mitgliedstaaten für die Einrichtung und Beaufsichtigung von KI-Reallaboren für KI-Systeme, die ihrer Aufsicht unterliegen, unberührt.
(4)
Die Mitgliedstaaten stellen sicher, dass die in den Absätzen 1 und 2 genannten zuständigen Behörden ausreichende Mittel bereitstellen, um diesem Artikel wirksam und zeitnah nachzukommen. Gegebenenfalls arbeiten die zuständigen nationalen Behörden mit anderen einschlägigen Behörden zusammen und können die Einbeziehung anderer Akteure des KI-Ökosystems gestatten. Andere Reallabore, die im Rahmen des Unionsrechts oder des nationalen Rechts eingerichtet wurden, bleiben von diesem Artikel unberührt. Die Mitgliedstaaten sorgen dafür, dass die diese anderen Reallabore beaufsichtigenden Behörden und die zuständigen nationalen Behörden angemessen zusammenarbeiten.
(5)
Die nach diesem Artikel eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und den zuständigen Behörden vereinbarten Reallabor-Plan zu erleichtern, wobei sie dafür sorgen, dass angemessene Schutzvorkehrungen bestehen. In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. Der Plan für das Reallabor enthält, soweit zutreffend, den Plan für einen Test unter Realbedingungen gemäß Artikel 60 und Artikel 60a.
(6)
Die zuständigen Behörden stellen innerhalb der KI-Reallabore gegebenenfalls Anleitung, Aufsicht und Unterstützung bereit, um Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit, Tests und Risikominderungsmaßnahmen sowie deren Wirksamkeit hinsichtlich der Pflichten und Anforderungen dieser Verordnung und gegebenenfalls anderem Unionsrecht und nationalem Recht, deren Einhaltung innerhalb des Reallabors beaufsichtigt wird, zu ermitteln.
(7)
Die zuständigen Behörden stellen den Anbietern und zukünftigen Anbietern, die am KI-Reallabor teilnehmen, Leitfäden zu regulatorischen Erwartungen und zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und Pflichten zur Verfügung.
Die zuständige Behörde legt dem Anbieter oder zukünftigen Anbieter des KI-Systems auf dessen Anfrage einen schriftlichen Nachweis für die im Reallabor erfolgreich durchgeführten Tätigkeiten vor. Außerdem legt die zuständige Behörde einen Abschlussbericht vor, in dem sie die im Reallabor durchgeführten Tätigkeiten, deren Ergebnisse und die gewonnenen Erkenntnisse im Einzelnen darlegt. Die Anbieter können diese Unterlagen nutzen, um im Rahmen des Konformitätsbewertungsverfahrens oder einschlägiger Marktüberwachungstätigkeiten nachzuweisen, dass sie dieser Verordnung nachkommen. In diesem Zusammenhang werden die Abschlussberichte und die von der zuständigen nationalen Behörde vorgelegten schriftlichen Nachweise von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet.
(8)
Vorbehaltlich der in Artikel 78 enthaltenen Bestimmungen über die Vertraulichkeit und im Einvernehmen mit den Anbietern oder zukünftigen Anbietern, sind die Kommission und das KI-Gremium befugt, die Abschlussberichte einzusehen und tragen diesen gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung. Wenn der Anbieter oder der zukünftige Anbieter und die zuständige nationale Behörde ihr ausdrückliches Einverständnis erklären, kann der Abschlussbericht über die in diesem Artikel genannte zentrale Informationsplattform veröffentlicht werden.
(9)
Die Einrichtung von KI-Reallaboren soll zu den folgenden Zielen beitragen:
a)
Verbesserung der Rechtssicherheit, um für die Einhaltung der Regulierungsvorschriften dieser Verordnung oder, gegebenenfalls, anderem geltenden Unionsrecht und nationalem Recht zu sorgen;
b)
Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI-Reallabor beteiligten Behörden;
c)
Förderung von Innovation und Wettbewerbsfähigkeit sowie Erleichterung der Entwicklung eines KI-Ökosystems;
d)
Leisten eines Beitrags zum evidenzbasierten regulatorischen Lernen;
e)
Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen angeboten werden.
(10)
Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die zuständigen Datenschutzbehörden oder diese anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden.
(11)
Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. Alle erheblichen Risiken für die Gesundheit und Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, führen zur sofortigen und angemessenen Risikominderung. Die zuständigen nationalen Behörden sind befugt, das Testverfahren oder die Beteiligung am Reallabor vorübergehend oder dauerhaft auszusetzen, wenn keine wirksame Risikominderung möglich ist, und unterrichten das Büro für Künstliche Intelligenz über diese Entscheidung. Um Innovationen im Bereich KI in der Union zu fördern, üben die zuständigen nationalen Behörden ihre Aufsichtsbefugnisse im Rahmen des geltenden Rechts aus, indem sie bei der Anwendung der Rechtsvorschriften auf ein bestimmtes KI-Reallabor ihren Ermessensspielraum nutzen.
(12)
Die am KI-Reallabor beteiligten Anbieter und zukünftigen Anbieter bleiben nach geltendem Recht der Union und nationalem Haftungsrecht für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen. Sofern die zukünftigen Anbieter den spezifischen Plan und die Bedingungen für ihre Beteiligung beachten und der Anleitung durch die zuständigen nationalen Behörden in gutem Glauben folgen, werden jedoch von den Behörden keine Geldbußen für Verstöße gegen diese Verordnung verhängt. In Fällen, in denen andere zuständige Behörden, die für anderes Unionsrecht und nationales Recht zuständig sind, aktiv an der Beaufsichtigung des KI-Systems im Reallabor beteiligt waren und Anleitung für die Einhaltung gegeben haben, werden im Hinblick auf dieses Recht keine Geldbußen verhängt.
(13)
Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie gegebenenfalls die grenzüberschreitende Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern.
(14)
Die zuständigen nationalen Behörden, der Europäische Datenschutzbeauftragte und das Büro für Künstliche Intelligenz koordinieren gegebenenfalls im Einklang mit ihren jeweiligen Befugnissen ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums dementsprechend zusammen. Sie können die gemeinsame Einrichtung und den gemeinsamen Betrieb von KI-Reallaboren unterstützen, auch in verschiedenen Sektoren, und sich über einschlägige bewährte Verfahren austauschen.
(15)
Die zuständigen nationalen Behörden unterrichten das Büro für Künstliche Intelligenz und das KI-Gremium über die Einrichtung eines Reallabors und können sie um Unterstützung und Anleitung bitten. Das Büro für Künstliche Intelligenz veröffentlicht eine Liste der geplanten und bestehenden Reallabore und hält sie auf dem neuesten Stand, um eine stärkere Interaktion in den KI-Reallaboren und die grenzüberschreitende Zusammenarbeit zu fördern.
(16)
Die zuständigen nationalen Behörden übermitteln dem Büro für Künstliche Intelligenz und dem KI-Gremium jährliche Berichte, und zwar ab einem Jahr nach der Einrichtung des Reallabors und dann jedes Jahr bis zu dessen Beendigung, sowie einen Abschlussbericht. Diese Berichte informieren über den Fortschritt und die Ergebnisse der Umsetzung dieser Reallabore, einschließlich bewährter Verfahren, Vorfällen, gewonnener Erkenntnisse und Empfehlungen zu deren Aufbau, sowie gegebenenfalls über die Anwendung und mögliche Überarbeitung dieser Verordnung, einschließlich ihrer delegierten Rechtsakte und Durchführungsrechtsakte, sowie über die Anwendung anderen Unionsrechts, deren Einhaltung von den zuständigen Behörden innerhalb des Reallabors beaufsichtigt wird. Die zuständigen nationalen Behörden stellen diese jährlichen Berichte oder Zusammenfassungen davon der Öffentlichkeit online zur Verfügung. Die Kommission trägt den jährlichen Berichten gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung.
(17)
Die Kommission richtet eine eigene Schnittstelle ein, die alle relevanten Informationen zu den KI-Reallaboren enthält, um es den Interessenträgern zu ermöglichen, mit den KI-Reallaboren zu interagieren und Anfragen an die zuständigen Behörden zu richten und unverbindliche Beratung zur Konformität von innovativen Produkten, Dienstleistungen und Geschäftsmodellen mit integrierter KI-Technologie im Einklang mit Artikel 62 Absatz 1 Buchstabe c einzuholen. Die Kommission stimmt sich gegebenenfalls proaktiv mit den zuständigen nationalen Behörden ab.
