Torzítás
term_id: bias
Category: ethics_safety
Definition
Az MI-etikában a torzítás a algoritmikus döntéshozatalban fellépő rendszeres és igazságtalan diszkriminációt jelenti, amely gyakran torzított tanítóadatokból vagy hibás modelltervezésből eredeztethető. Ez kedvezőtlen hatásokhoz vezethet.
Summary
Rendszeres elfogultság az MI-modellekben, amely igazságtalan kimenetelekhez vezet bizonyos csoportokkal vagy egyénekkel szemben.
Key Concepts
- Igazságosság
- Adathalmaz torzulása
- Algoritmikus diszkrimináció
- Etikus MI
Use Cases
- Felvételi algoritmusok auditálása
- Hiteljóváhagyási rendszerek felülvizsgálata
- Arcfelismerési pontosság elemzése demográfiai csoportok között