Algoritminen syrjintä
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Tämä ilmiö syntyy, kun tekoälymallit käsittelevät ihmisiä tahattomasti tai systemaattisesti eri tavoin rodun, sukupuolen, iän tai muiden herkkien attribuuttien vuoksi. Se johtuu usein harhoja sisältävistä koulutusdatasta tai puutteellisista mallirajoituksista.
Summary
Algoritmiseen syrjintään liittyy tilanne, jossa automaattiset järjestelmät tuottavat epäreiluja tai harhaanjohtavia tuloksia, jotka asettavat tietyt ryhmät heikompaan asemaan suojeltujen ominaisuuksien perusteella.
Key Concepts
- Reiluus
- Suojatut attribuutit
- Epäsuhta vaikutus
Use Cases
- Palkkaus- ja rekrytointialgoritmien tarkastus sukupuolten välisen epätasa-arvon varalta
- Lainahyväksyntäjärjestelmien arviointi rodullisten eriarvoisuuksien varalta
- Kasvojentunnistuksen tarkkuuden varmistaminen eri ihonsävyjen kohdalla