Viés
term_id: bias
Category: ethics_safety
Definition
Na ética da IA, viés refere-se à discriminação sistemática e injusta na tomada de decisões algorítmicas, muitas vezes resultante de dados de treinamento desequilibrados ou falhas no design do modelo. Isso pode levar a impactos adversos significativos sobre grupos específicos, perpetuando desigualdades sociais e prejudicando a justiça e a imparcialidade dos sistemas automatizados.
Summary
Preconceito sistemático em modelos de IA que leva a resultados injustos contra certos grupos ou indivíduos.
Key Concepts
- Justiça
- Desequilíbrio no Conjunto de Dados
- Discriminação Algorítmica
- IA Ética
Use Cases
- Auditoria de algoritmos de contratação
- Revisão de sistemas de aprovação de empréstimos
- Análise da precisão do reconhecimento facial em diferentes demografias