Stereotyp
term_id: stereotype
Category: ethics_safety
Definition
Innen AI oppstår stereotyper når modeller lærer og forsterker samfunnsmessige skjevheter til stede i treningsdata. Dette kan føre til diskriminerende utfall, som å assosiere visse yrker med bestemte kjønn eller etnisiteter.
Summary
En generalisert og ofte forenklet tro om en bestemt gruppe mennesker som gjenspeiles i AI-utdata.
Key Concepts
- Algoritmisk skjevhet
- Fairness (Rettferdighet)
- Sosial skjevhet
- Diskriminering
Use Cases
- Revisjon av ansettelsesalgoritmer for kjønnsskjevhet
- Korreksjon av rasistiske skjevheter i ansiktsgjenkjenning
- Utvikling av mer rettferdige modeller for naturlig språkbehandling