Discriminação Algorítmica
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Este fenômeno surge quando modelos de IA tratam indivíduos de forma diferente, seja inadvertida ou sistematicamente, devido à raça, gênero, idade ou outros atributos sensíveis. Frequentemente, decorre de dados de treinamento enviesados ou
Summary
A discriminação algorítmica ocorre quando sistemas automatizados produzem resultados injustos ou tendenciosos que desfavorecem grupos específicos com base em características protegidas.
Key Concepts
- Justiça (Fairness)
- Atributos Protegidos
- Impacto Dispar
Use Cases
- Auditoria de algoritmos de contratação para viés de gênero
- Avaliação de sistemas de aprovação de empréstimos quanto a disparidades raciais
- Garantir a precisão do reconhecimento facial em diferentes tons de pele