Algorithmische Voreingenommenheit
term_id: algorithmic_bias
Category: ethics_safety
Definition
Voreingenommenheit in Algorithmen stammt typischerweise aus nicht repräsentativen Trainingsdaten, subjektiven Designentscheidungen oder Feedback-Schleifen, die bestehende gesellschaftliche Vorurteile verstärken. Sie manifestiert sich als verzerrte Vorhersagen oder Entscheidungen.
Summary
Algorithmische Voreingenommenheit bezieht sich auf systematische und wiederholbare Fehler in einem Computersystem, die zu unfairen Ergebnissen führen, wie etwa der Bevorzugung einer willkürlichen Gruppe gegenüber anderen.
Key Concepts
- Datenrepräsentation
- Systematischer Fehler
- Minderungsstrategien
Use Cases
- Korrektur von Suchergebnis-Rankings
- Ausgewichtung medizinischer Diagnose-Datensätze
- Diversifizierung von Trainingsdatensätzen für die Bilderkennung