Algoritmisk diskriminering
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Detta fenomen uppstår när AI-modeller oavsiktligt eller systematiskt behandlar individer olika på grund av ras, kön, ålder eller andra känsliga attribut. Det härstammar ofta från snedvriden träningsdata eller bristande design.
Summary
Algoritmisk diskriminering uppstår när automatiserade system ger orättvisa eller snedvridna resultat som missgynnar specifika grupper baserat på skyddade egenskaper.
Key Concepts
- Rättvisa
- Skyddade attribut
- Diskriminerande effekt
Use Cases
- Att granska rekryteringsalgoritmer för könsfördomar
- Att utvärdera system för lånebeslut för rasliga skillnader
- Att säkerställa ansiktsigenkänningens noggrannhet över alla hudtoner