Biais algorithmique
term_id: algorithmic_bias
Category: ethics_safety
Definition
Les biais dans les algorithmes proviennent généralement de données d’entraînement non représentatives, de choix de conception subjectifs ou de boucles de rétroaction qui amplifient les préjugés sociétaux existants. Ils se manifestent par des prédictions déformées ou des traitements inéquitables.
Summary
Le biais algorithmique désigne les erreurs systématiques et répétitives dans un système informatique qui créent des résultats injustes, tels qu’un privilège accordé à un groupe arbitraire par rapport à d’autres.
Key Concepts
- Représentation des données
- Erreur systématique
- Stratégies d’atténuation
Use Cases
- Corriger les classements des résultats de recherche
- Équilibrer les ensembles de données de diagnostic médical
- Diversifier les ensembles d’entraînement de reconnaissance d’images