Discrimination algorithmique
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Ce phénomène survient lorsque les modèles d’IA traitent involontairement ou systématiquement les individus différemment en raison de leur race, genre, âge ou autres attributs sensibles. Il découle souvent de données d’entraînement biaisées ou de conceptions de modèles problématiques.
Summary
La discrimination algorithmique se produit lorsque les systèmes automatisés produisent des résultats injustes ou biaisés qui désavantagent des groupes spécifiques en fonction de caractéristiques protégées.
Key Concepts
- Équité
- Attributs protégés
- Impact disproportionné
Use Cases
- Auditer les algorithmes de recrutement pour les biais de genre
- Évaluer les systèmes d’approbation de prêts pour les disparités raciales
- Garantir la précision de la reconnaissance faciale pour tous les tons de peau