Discriminare algoritmică
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Acest fenomen apare când modelele de IA tratează inadvertent sau sistematic indivizii diferit din cauza rasiei, genului, vârstei sau altor atribute sensibile. Adesea provine din date de antrenament părtinitoare sau din lipsa diversității în datele de intrare.
Summary
Discriminarea algoritmică apare atunci când sistemele automate produc rezultate incorecte sau părtinitoare care dezavantajează anumite grupuri pe baza caracteristicilor protejate.
Key Concepts
- Echitate
- Atribute protejate
- Impact disproporționat
Use Cases
- Auditarea algoritmilor de recrutare pentru bias de gen
- Evaluarea sistemelor de aprobare a împrumuturilor pentru disparități rasiale
- Asigurarea acurateței recunoașterii faciale pe toate tonurile pielii