Algoritmisk diskriminering
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Dette fenomenet oppstår når AI-modeller utilsiktet eller systematisk behandler individer ulikt på grunn av rase, kjønn, alder eller andre sensitive attributter. Det stammer ofte fra skjevde treningsdata eller…
Summary
Algoritmisk diskriminering oppstår når automatiserte systemer produserer urettferdige eller skjevde utkommer som ugunstig påvirker spesifikke grupper basert på beskyttede egenskaper.
Key Concepts
- Rettferdighet
- Beskyttede attributter
- Diskrepant innvirkning
Use Cases
- Å revidere ansettelsesalgoritmer for kjønnsbias
- Å vurdere lånegodkjenningsystemer for rasemessige ulikheter
- Å sikre nøyaktigheten av ansiktsgjenkjenning på tvers av hudtoner