Harha
term_id: bias
Category: ethics_safety
Definition
Teoälyn etiikassa harha viittaa järjestelmälliseen ja epäoikeudenmukaiseen syrjintään algoritmisen päätöksenteon aikana, mikä johtuu usein vinoutuneista koulutusdatasta tai puutteellisesta mallin suunnittelusta. Tämä voi johtaa haittavaikutuksiin
Summary
Järjestelmällinen ennakkoluulo tekoälymalleissa, joka johtaa epäoikeudenmukaisiin tuloksiin tiettyjä ryhmiä tai yksilöitä kohtaan.
Key Concepts
- Reiluus
- Datavinouma
- Algoritminen syrjintä
- Eettinen tekoäly
Use Cases
- Palkkausalgoritmien auditointi
- Luottopäätösjärjestelmien tarkastelu
- Kasvojentunnistuksen tarkkuuden analysointi demografisten ryhmien välillä