Explainable AI (XAI) (erklärbare KI)

Explainable AI umfasst Methoden, mit denen die Arbeitsweise von KI-Systemen transparenter gemacht wird. Nutzer sollen nicht nur ein Ergebnis erhalten, sondern auch nachvollziehen können, welche Faktoren dazu beigetragen haben.

Warum Erklärbarkeit wichtig ist

Vertrauen in KI entsteht leichter, wenn Ergebnisse verständlich sind. Besonders in sensiblen Bereichen wie Medizin, Personalwesen oder Finanzentscheidungen ist es wichtig, dass Entscheidungen nicht als undurchsichtige Blackbox erscheinen.

Bedeutung für Praxis und Regulierung

Erklärbarkeit spielt sowohl für die Akzeptanz als auch für rechtliche Anforderungen eine Rolle. Unternehmen brauchen nachvollziehbare KI, um Kontrolle auszuüben, Risiken besser zu erkennen und Entscheidungen plausibel zu begründen.

KI-Glossar