Sesgo algorítmico
term_id: algorithmic_bias
Category: ethics_safety
Definition
El sesgo en los algoritmos generalmente origina en datos de entrenamiento no representativos, elecciones de diseño subjetivas o bucles de retroalimentación que amplifican los prejuicios sociales existentes. Se manifiesta como predicciones distorsionadas o decisiones desiguales.
Summary
El sesgo algorítmico se refiere a errores sistemáticos y repetibles en un sistema informático que crean resultados injustos, como privilegiar a un grupo arbitrario sobre otros.
Key Concepts
- Representación de datos
- Error sistemático
- Estrategias de mitigación
Use Cases
- Corregir el ranking de resultados de búsqueda
- Equilibrar conjuntos de datos de diagnóstico médico
- Diversificar conjuntos de entrenamiento para reconocimiento de imágenes