Algoritmikus diszkrimináció
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Ez a jelenség akkor merül fel, amikor az AI-modellek véletlenül vagy szisztematikusan másként bánnak az egyénekkel faji, nem szerinti, életkori vagy egyéb érzékeny attribútumok miatt. Gyakran elfogult képzési adatokból vagy a modell tervezéséből ered.
Summary
Az algoritmikus diszkrimináció akkor következik be, amikor az automatizált rendszerek igazságtalan vagy elfogult eredményeket hoznak létre, amelyek hátrányos helyzetbe hoznak bizonyos csoportokat védett jellemzőik alapján.
Key Concepts
- Igazságosság
- Védett attribútumok
- Aránytalan hatás
Use Cases
- Felvételi algoritmusok auditálása nemi torzításokért
- Hiteljóváhagyó rendszerek értékelése faji disparitások szempontjából
- Arcfelismerés pontosságának biztosítása különböző bőrszínek esetén