Datenvergiftung
term_id: data_poisoning
Category: ethics_safety
Definition
Diese adversarische Technik zielt darauf ab, die Integrität von Machine-Learning-Modellen zu kompromittieren, indem die Trainingsdaten verändert werden. Durch das Einführen subtiler Fehler oder verzerrter Beispiele können Angreifer dazu führen, dass das Modell
Summary
Datenvergiftung ist ein Sicherheitsangriff, bei dem böswillige Akteure korrupte oder irreführende Daten in einen Trainingsdatensatz einschleusen, um die Modellleistung zu verschlechtern.
Key Concepts
- Adversarialer Angriff
- Modellintegrität
- Sicherheit der Trainingsdaten
- Backdoor-Angriffe
Use Cases
- Sicherheitstests von ML-Pipelines
- Verständnis von Schwachstellen in offenen Datensätzen
- Entwicklung robuster Abwehrmechanismen