Discriminación algorítmica
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Este fenómeno surge cuando los modelos de IA tratan inadvertida o sistemáticamente a los individuos de manera diferente debido a su raza, género, edad u otros atributos sensibles. A menudo proviene de datos de entrenamiento sesgados o de diseños defectuosos.
Summary
La discriminación algorítmica ocurre cuando los sistemas automatizados producen resultados injustos o sesgados que perjudican a grupos específicos basándose en características protegidas.
Key Concepts
- Equidad
- Atributos protegidos
- Impacto disparate
Use Cases
- Auditar algoritmos de contratación por sesgo de género
- Evaluar sistemas de aprobación de préstamos por disparidades raciales
- Garantizar la precisión del reconocimiento facial en todos los tonos de piel