- 1Zweck der Verordnung
- 2Einklang mit den Werten der Union
- 3Einheitliches Schutzniveau
- 4Künstliche Intelligenz
- 5Risiken und Schäden
- 6Menschenzentrierte Technologie
- 7Hochrisiko-KI-Systeme
- 8Rechtsrahmen mit harmonisierten Vorschriften
- 9Anwendbarkeit bestehender Rechte und Rechtsbehelfe
- 10Grundrecht auf Schutz personenbezogener Daten
- 11Verantwortlichkeit der Vermittler der Richtlinie 2000/31/EG
- 12KI-System
- 13Betreiber
- 14Biometrische Daten
- 15Biometrische Identifizierung
- 16Biometrische Kategorisierung
- 17Biometrisches Fernidentifizierungssystem
- 18Emotionserkennungssystem
- 19Öffentlich zugänglicher Raum
- 20Ausstattung mit notwendigen Konzepten
- 21Anwendung auf Anbieter und Betreiber
- 22Anwendung auf Akteure im Drittland
- 23Anwendung auf EU-Organe, Einrichtungen und sonstige Stellen
- 24Ausnahme der Bereiche Militär, Verteidigung und nationale Sicherheit
- 25Ausnahme wissenschaftlicher Forschungs- und Entwicklungstätigkeiten
- 26Risikobasierter Ansatz
- 27Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI
- 28Verbot schädlicher und missbräuchlicher Verwendung
- 29KI-gestützter Einfluss auf menschliches Verhalten
- 30KI-Systeme zur biometrischen Kategorisierung
- 31KI-Systeme zur sozialen Bewertung
- 32KI-Systeme zur biometrischen Echtzeit-Fernidentifizierung
- 33Biometrische Echtzeit-Fernidentifizierungssysteme für Strafverfolgungszwecke
- 34Grundrechte-Folgenabschätzung
- 35Genehmigungspflicht
- 36Unterrichtung zuständiger Behörden
- 37Übernahme in nationale Rechtsvorschriften
- 38Verwendung und Verarbeitung biometrischer Daten
- 39Anwendbarkeit der Richtlinie (EU) 2016/680
- 40Eingeschränkte Bindungswirkung für Irland
- 41Eingeschränkte Bindungswirkung für Dänemark
- 42Unschuldsvermutung und Profiling
- 43Verbot von KI-Gesichtserkennung zur Massenüberwachung
- 44Risiken und Grenzen emotionserkennender KI-Systeme
- 45Unzulässige Praktiken nach EU-Recht bleiben unberührt
- 46Verbindliche Sicherheitsanforderungen für Hochrisiko-KI-Systeme in der EU
- 47Risikominimierung bei KI-Systemen für Gesundheit und Sicherheit
- 48Grundrechte und Risikoeinschätzung von KI-Systemen
- 49Anpassung von Rechtsvorschriften für Hochrisiko-KI-Systeme in sicherheitsrelevanten Produkten und Systemen
- 50Hochrisiko-Einstufung für KI-Sicherheitsprodukte
- 51Hochrisiko-KI-Systeme und Produktrisiko
- 52Klassifizierung und Regulierung von Hochrisiko-KI-Systemen
- 53Ergänzung menschlicher Tätigkeit und Mustererkennung
- 54Risikobewertung und Anwendungsfälle für biometrische Systeme
- 55Hochrisiko-KI-Systeme der kritischen Infrastruktur
- 56Hochrisiko-KI-Systeme im Bildungswesen
- 57Hochrisiko-KI-Systeme in Beschäftigung und Personalwesen
- 58Hochrisiko-KI-Systeme in sozialer Leistung, Kreditwürdigkeit und Notfällen
- 59Hochrisiko-KI-Systeme in der Strafverfolgung
- 60Hochrisiko-KI-Systeme in Migration und Asyl
- 61Hochrisiko-KI-Systeme in der Rechtspflege
- 62Hochrisiko-KI-Systeme bei Wahlen
- 63Rechtmäßigkeit
- 64Konformität mit sonstigem Unionsrecht
- 65Risikomanagementsystem
- 66Anwendungsbereiche der Anforderungen
- 67Daten-Governance- und Datenverwaltungsverfahren
- 68Zugang zu hochwertigen Daten
- 69Datenschutz
- 70Verarbeitung besonderer Kategorien personenbezogener Daten
- 71Dokumentation der Entwicklung
- 72Transparenz bei Hochrisiko-KI-Systemen
- 73Überwachung durch natürliche Personen
- 74Leistungskennzahlenniveau
- 75Resilienz von Hochrisiko-KI-Systemen
- 76Angemessenes Cybersicherheitsniveau
- 77Anforderungen an die Cybersicherheit aus der Verordnung
- 78Konformitätsbewertung
- 79Bestimmtheit des Anbieters
- 80Besonderer Schutz und Gleichstellung von Menschen mit Behinderungen
- 81Einrichtung eines Qualitätsmanagements
- 82Gleiche Wettbewerbsbedingungen für Akteure
- 83Präzisierung der Rollen und Pflichten von Akteuren in der Wertschöpfungskette
- 84Pflichtenerweiterung auf Händler, Einführer, Betreiber oder andere Dritte als Anbieter von Hochrisiko-KI-Systemen
- 85Zusammenarbeit der Anbieter von Hochrisiko-KI-Systemen entlang der Wertschöpfungskette und mit Behörden
- 86Pflicht zur Zusammenarbeit ehemaliger Anbieter
- 87Pflichten bei Hochrisiko-KI-System als Sicherheitskomponente eines Produktes
- 88Schriftliche Vereinbarung über Bereitstellung von Informationen
- 89Freistellung von Verantwortlichkeiten in der Wertschöpfungskette und Förderung vertrauenswürdiger KI
- 90Ausarbeitung von freiwilligen Mustervertragsbedingungen durch die Kommission
- 91Festlegung besonderer Zuständigkeiten und Pflichten für Betreiber
- 92Pflicht der Arbeitgeber, Arbeitnehmer oder ihre Vertreter zu unterrichten und anzuhören
- 93Unterrichtung und Information der Betroffenen durch den Betreiber
- 94Anwendung RL (EU) 2016/680 bei Verwendung von KI-Systemen für die biometrische Identifizierung zu Strafverfolgungszwecken
- 95Einhaltung von Schutzvorkehrungen bei nachträglicher biometrischer Fernidentifizierung
- 96Durchführung Grundrechte-Folgenabschätzung und weitere Folgemaßnahmen
- 97Genaue Begriffsbestimmung einzelner KI-Modelle
- 98Schwellenwert für Parameter bei KI-Modellen mit allgemeinem Verwendungszweck
- 99Beispiel für KI-Modell mit allgemeinem Verwendungszweck
- 100Weitere Fälle eines KI-Modells mit allgemeinem Verwendungszweck
- 101Transparenzpflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- 102Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
- 103Begriff KI-Modell mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
- 104Ausnahmen für Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
- 105Chancen und Herausforderungen großer generativer KI-Modelle
- 106Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck in der Union
- 107Transparenzpflichten bei Trainingsdaten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- 108Pflichteneinhaltungskontrolle durch Amt für KI
- 109Verhältnismäßigkeit bei Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
- 110Systemische Risiken von KI-Modellen mit allgemeinem Verwendungszweck
- 111Methodik zur Einstufung von KI-Modellen mit systemischem Risiko
- 112Erfassung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko beim Amt für KI
- 113Nachträgliche Einstufung weiterer KI-Modelle als KI-Modelle mit systemischem Risiko
- 114Zusätzliche Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
- 115Bewertung und Minderung systemischer Risiken
- 116Förderung von Praxisleitfäden durch das Büro für Künstliche Intelligenz
- 117Verhaltenskodizes als Instrument zur Pflichteneinhaltung
- 118Regulierung von KI-Systemen und KI-Modellen in der Union
- 119Wechselwirkung von KI-Verordnung und anderen EU-Rechtsrahmen
- 120Pflicht zur Ermittlung systemischer Risiken für KI-Modelle und Vermittlungsdienste
- 121Gemeinsame Spezifikationen der Kommission
- 122Übereinstimmung mit Cybersicherheitsanforderungen
- 123Konformitätsbewertung für Hochrisiko-KI-Systeme
- 124Konformitätsbewertung nach EU-Harmoniserungsvorschriften
- 125Eingeschränkte Konformitätsbewertung durch Dritte
- 126Verfahren für Anbieter von Konformitätsbewertungen
- 127Anerkennung von Konformitätsergebnissen aus Drittländern
- 128Erneute Konformitätsbewertung bei wesentlichen Systemänderungen
- 129CE-Kennzeichnung für Hochrisiko-KI-Systeme
- 130Genehmigung für Hochrisiko-KI-Systeme im öffentlichen Interesse
- 131Registrierungspflichten für Anbieter und Betreiber von Hochrisiko-KI-Systemen in EU-Datenbank
- 132Transparenzpflichten für KI-Systeme
- 133Deepfakes und synthetische Inhalte
- 134Transparenzpflichten für Betreiber bei synthetischen Inhalten
- 135Praxisleitfäden für Transparenzpflichten bei synthetischen Inhalten
- 136Offenlegung künstlich erzeugter oder manipulierter Inhalte
- 137Keine Rechtmäßigkeitsvermutung durch Erfüllung von Transparenzpflichten
- 138Einführung von Reallaboren zur Erprobung innovativer Systeme
- 139Ziele der KI-Reallabore
- 140Rechtsgrundlage für die Verwendung personenbezogener Daten zur Entwicklung von KI-Systemen im öffentlichen Interesse
- 141Voraussetzungen für das Testen von Hochrisiko-KI-Systemen unter realen Bedingungen
- 142Ermutigung der Förderung von Forschung und Entwicklung zu KI-Lösungen
- 143Besondere Berücksichtigung der Interessen von KMU
- 144Unterstützung von KI-Innovationen durch Förderprogramme
- 145Risikominimierung und Erleichterung der Pflichtenerfüllung bei der Umsetzung der Verordnung
- 146Erleichterung bei der Einführung eines Qualitätsmanagements für Kleinstunternehmen
- 147Erleichterung des Zugangs zu Test- und Versuchseinrichtungen für bestimmte Stellen
- 148Schaffung eines Governance-Rahmens
- 149Einrichtung eines Ausschusses
- 150Einrichtung eines Beratungsforums
- 151Einrichtung eines wissenschaftlichen Gremiums
- 152Unionsstrukturen zur Unterstützung der KI-Prüfung
- 153Einrichtung mindestens einer notifizierenden Behörde und einer Marktüberwachungsbehörde pro Mitgliedstaat
- 154Unabhängigkeit, Unparteilichkeit und Verschwiegenheit der zuständigen nationalen Behörden
- 155System zur Beobachtung von Hochrisiko-KI-Systemen und System zur Meldung schwerwiegender Vorfälle
- 156System der Marktüberwachung und der Konformität von Produkten
- 157Stellung von nationalen Behörden oder weiteren Stellen im Verhältnis zu den Regelungen dieser Verordnung
- 158Kohärente Anwendung und Durchsetzung der Pflichten bezüglich Finanzdienstleistungen
- 159Befugnisse von Marktüberwachungsbehörden für Hochrisiko-KI-Systeme im Bereich der biometrischen Daten
- 160Gemeinsame Tätigkeiten der Marktüberwachungsbehörden der Mitgliedstaaten bzw. der Kommission
- 161Präzisierung von Verantwortlichkeiten und Zuständigkeiten
- 162Synergien auf Unionsebene
- 163Unterstützung des Amts für KI durch wissenschaftliches Gremium
- 164Kompetenzen des Amts für KI
- 165Freiwillige Verhaltenskodizes
- 166Sicherheit von KI-Systemen ohne hohem Risiko
- 167Vertrauensvolle Zusammenarbeit der zuständigen Behörden
- 168Sicherstellung der Durchführung der Bestimmungen
- 169Geldbußen
- 170Rechtsbehelfe bei durch KI verursachten Rechtsverletzungen
- 171Recht auf Erklärung bei KI-gestützten Entscheidungen
- 172Schutz von Hinweisgebern
- 173Delegierte Befugnisse der Kommission zur Anpassung des Regelungsrahmens
- 174Regelmäßige Bewertung und Überprüfung
- 175Durchführungsbefugnisse der Kommission
- 176Subsidiaritätsprinzip und Grundsatz der Verhältnismäßigkeit
- 177Gewährleistung der Kontinuität
- 178Freiwillige Einhaltung
- 179Zeitpunkt der Geltung
- 180Anhörung des Europäischen Datenschutzbeauftragten
KI-VO Erwägungsgrund 123
Um ein hohes Maß an Vertrauenswürdigkeit von Hochrisiko-KI-Systemen zu gewährleisten, sollten diese Systeme einer Konformitätsbewertung unterzogen werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden.
