Stereotyp
term_id: stereotype
Category: ethics_safety
Definition
In der KI entstehen Stereotype, wenn Modelle gesellschaftliche Vorurteile, die in den Trainingsdaten vorhanden sind, erlernen und verstärken. Dies kann zu diskriminierenden Ergebnissen führen, wie etwa der Zuordnung bestimmter Berufe zu spezifischen Geschlechtern
Summary
Eine verallgemeinerte und oft vereinfachte Überzeugung über eine bestimmte Gruppe von Menschen, die sich in KI-Ausdrücken widerspiegelt.
Key Concepts
- Algorithmische Verzerrung
- Fairness
- Soziale Verzerrung
- Diskriminierung
Use Cases
- Auditierung von Einstellungsalgorithmen auf Geschlechterverzerrung
- Korrektur rassistischer Verzerrungen in der Gesichtserkennung
- Entwicklung fairerer Modelle für die Verarbeitung natürlicher Sprache