Algoritmisk diskrimination
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Dette fænomen opstår, når AI-modeller utilsigtet eller systematisk behandler individer forskelligt på grund af race, køn, alder eller andre følsomme attributter. Det stammer ofte fra skæve træningsdata eller manglende diversitet i datamaterialet.
Summary
Algoritmisk diskrimination opstår, når automatiserede systemer producerer uretfærdige eller skæve resultater, der ugunstigt påvirker bestemte grupper baseret på beskyttede kendetegn.
Key Concepts
- Retfærdighed
- Beskyttede attributter
- Diskrepant indflydelse (Disparate Impact)
Use Cases
- Revision af ansættelsesalgoritmer for kønsbias
- Vurdering af lånegodkendelsessystemer for racemæssige uligheder
- Sikring af ansigtsgenkendelsesnøjagtighed på tværs af hudfarver