Estereotipo
term_id: stereotype
Category: ethics_safety
Definition
En la IA, los estereotipos surgen cuando los modelos aprenden y amplifican los sesgos sociales presentes en los datos de entrenamiento. Esto puede llevar a resultados discriminatorios, como asociar ciertas profesiones con géneros específicos o atribuir características raciales de manera sesgada.
Summary
Una creencia generalizada y a menudo simplificada sobre un grupo particular de personas, reflejada en las salidas de la IA.
Key Concepts
- Sesgo Algorítmico
- Justicia (Fairness)
- Sesgo Social
- Discriminación
Use Cases
- Auditoría de algoritmos de contratación por sesgo de género
- Corrección de sesgos raciales en el reconocimiento facial
- Desarrollo de modelos de procesamiento de lenguaje natural más justos