Algoritmische discriminatie
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Dit fenomeen ontstaat wanneer AI-modellen individuen onbedoeld of systematisch anders behandelen vanwege ras, geslacht, leeftijd of andere gevoelige attributen. Het komt vaak voort uit bevooroordeelde trainingsgegevens of onvolledige modellen.
Summary
Algoritmische discriminatie treedt op wanneer geautomatiseerde systemen oneerlijke of bevooroordeelde resultaten opleveren die bepaalde groepen benadelen op basis van beschermde kenmerken.
Key Concepts
- Billijkheid
- Beschermde attributen
- Disparate impact (Onevenredige negatieve gevolgen)
Use Cases
- Controleren van sollicitatie-algoritmen op genderbias
- Evalueren van leninggoedkeuringsystemen op rassensplitsing
- Zorgen voor nauwkeurigheid van gezichtsherkenning over huidtinten heen