Bias (Verzerrung)

Bias beschreibt eine Form von Voreingenommenheit in Daten oder Modellen, die zu unfairen oder diskriminierenden Ergebnissen führen kann. In KI-Systemen zeigt sich Bias oft dort, wo Entscheidungen über Menschen oder sensible Inhalte getroffen werden.

Wie Bias entsteht

Verzerrungen können bereits in den Trainingsdaten angelegt sein, etwa durch unausgewogene Verteilungen oder gesellschaftliche Vorurteile. Auch Modellarchitektur, Zielvorgaben und fehlerhafte Auswertung können Bias verstärken.

Warum Bias problematisch ist

Bias ist nicht nur ein technisches, sondern auch ein rechtliches und ethisches Thema. Besonders in Bereichen wie Recruiting, Kreditvergabe oder Gesichtserkennung kann er zu gravierenden Fehlentscheidungen und Diskriminierung führen.

KI-Glossar