Data Poisoning (Datenvergiftung)

Bei Data Poisoning werden absichtlich falsche oder irreführende Daten in einen Trainingsdatensatz eingebracht, damit ein Modell in eine bestimmte Richtung lernt. Die Manipulation betrifft also nicht die Ausgabe direkt, sondern die Grundlage des Lernens.

Warum das gefährlich ist

Schon kleine Veränderungen in Trainingsdaten können große Auswirkungen auf das spätere Ergebnis haben. Dadurch können Verzerrungen, Fehlklassifikationen oder gezielt eingebaute Schwächen entstehen.

Bedeutung für Sicherheit und Qualität

Data Poisoning ist ein relevantes Risiko für KI-Sicherheit und Datenintegrität. Unternehmen müssen deshalb sicherstellen, dass Trainingsdaten überprüft, Quellen vertrauenswürdig und Veränderungen nachvollziehbar sind.

KI-Glossar