Estereótipo
term_id: stereotype
Category: ethics_safety
Definition
Na IA, os estereótipos surgem quando os modelos aprendem e amplificam vieses sociais presentes nos dados de treinamento. Isso pode levar a resultados discriminatórios, como associar certas profissões a gêneros específicos.
Summary
Uma crença generalizada e frequentemente simplificada sobre um grupo específico de pessoas, refletida nas saídas de IA.
Key Concepts
- Viés Algorítmico
- Justiça (Fairness)
- Viés Social
- Discriminação
Use Cases
- Auditoria de algoritmos de contratação para viés de gênero
- Correção de vieses raciais em reconhecimento facial
- Desenvolvimento de modelos de processamento de linguagem mais justos