KI-Glossar

Grundrechte-Folgenabschätzung

Mit einer Grundrechte-Folgenabschätzung (englisch: Fundamental Rights Impact Assessment, FRIA) werden vor dem ersten Einsatz bestimmte Hochrisiko-KI-Systeme daraufhin geprüft, wie sie die Grundrechte betroffener Personen beeinträchtigen können. Die Pflicht ergibt sich aus Art. 27 KI-VO.

Wer muss die Folgenabschätzung durchführen?

Verpflichtet sind insbesondere öffentlich-rechtliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber bestimmter Hochrisiko-KI-Systeme zur Kreditwürdigkeitsprüfung oder zur Risiko- und Preisbewertung bei Lebens- und Krankenversicherungen.

Zu bewerten sind unter anderem der Einsatzkontext, die betroffenen Personengruppen, mögliche Grundrechtsrisiken, die menschliche Aufsicht und geeignete Abhilfemaßnahmen. Auch interne Zuständigkeiten und Beschwerdemöglichkeiten sind zu berücksichtigen.

Verhältnis zur Datenschutz-Folgenabschätzung

Werden personenbezogene Daten verarbeitet, kann zusätzlich eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO erforderlich sein. Beide Prüfungen haben unterschiedliche Schwerpunkte: Die DSFA untersucht Datenschutzrisiken, während die Grundrechte-Folgenabschätzung die Auswirkungen des KI-Einsatzes auf ein breiteres Spektrum von Grundrechten bewertet.

Nach Art. 27 Abs. 4 KI-VO kann die Grundrechte-Folgenabschätzung auf einschlägige Abschnitte einer bereits durchgeführten Datenschutz-Folgenabschätzung verweisen oder deren relevante Teile einbeziehen. Art. 27 Abs. 5 KI-VO sieht vor, dass der Fragebogen des KI-Büros diese Verknüpfung unterstützt. Die Prüfungen sollten daher aufeinander abgestimmt werden, ersetzen sich aber nicht gegenseitig.

KI-Glossar