Algoritmická diskriminace
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Tento jev vzniká, když modely AI neúmyslně nebo systematicky zacházejí s jednotlivci odlišně kvůli rase, pohlaví, věku nebo jiným citlivým atributům. Často pramení ze zkreslených trénovacích dat nebo nefér návrhových rozhodnutí.
Summary
Algoritmická diskriminace nastává, když automatizované systémy produkují nespravedlivé nebo zkreslené výsledky, které znevýhodňují specifické skupiny na základě chráněných charakteristik.
Key Concepts
- Spravedlnost
- Chráněné atributy
- Diskriminační dopad
Use Cases
- Audit náborových algoritmů pro zkreslení podle pohlaví
- Vyhodnocování systémů schvalování úvěrů na rasové disparity
- Zajištění přesnosti rozpoznávání obličejů napříč odstíny pleti