Algorithmische Diskriminierung
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Dieses Phänomen entsteht, wenn KI-Modelle Personen unbeabsichtigt oder systematisch aufgrund von Rasse, Geschlecht, Alter oder anderen sensiblen Attributen unterschiedlich behandeln. Es resultiert oft aus verzerrten Trainingsdaten oder fehlerhaften Modellannahmen.
Summary
Algorithmische Diskriminierung tritt auf, wenn automatisierte Systeme unfaire oder voreingenommene Ergebnisse produzieren, die bestimmte Gruppen aufgrund geschützter Merkmale benachteiligen.
Key Concepts
- Fairness
- Geschützte Attribute
- Ungleiche Auswirkungen (Disparate Impact)
Use Cases
- Prüfung von Einstellungsalgorithmen auf Geschlechterbias
- Bewertung von Kreditvergabe-Systemen auf rassische Ungleichheiten
- Gewährleistung der Genauigkeit von Gesichtserkennung über verschiedene Hauttöne hinweg