Stéréotype
term_id: stereotype
Category: ethics_safety
Definition
En IA, les stéréotypes surviennent lorsque les modèles apprennent et amplifient les biais sociétaux présents dans les données d’entraînement. Cela peut conduire à des résultats discriminatoires, tels que l’association de certaines professions à un genre
Summary
Une croyance généralisée et souvent simplifiée à propos d’un groupe particulier de personnes, reflétée dans les sorties de l’IA.
Key Concepts
- Biais algorithmique
- Équité
- Biais social
- Discrimination
Use Cases
- Audit des algorithmes de recrutement pour détecter les biais de genre
- Correction des biais raciaux dans la reconnaissance faciale
- Développement de modèles de traitement du langage naturel plus équitables