Discriminazione algoritmica
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Questo fenomeno sorge quando i modelli di IA trattano involontariamente o sistematicamente gli individui in modo diverso a causa di razza, genere, età o altri attributi sensibili. Spesso deriva da dati di addestramento distorti o da pregiudizi incorporati negli algoritmi.
Summary
La discriminazione algoritmica si verifica quando i sistemi automatizzati producono risultati ingiusti o distorti che svantaggiano gruppi specifici basati su caratteristiche protette.
Key Concepts
- Equità
- Attributi protetti
- Impatto differenziale
Use Cases
- Audit degli algoritmi di assunzione per pregiudizi di genere
- Valutazione dei sistemi di approvazione dei prestiti per disparità razziali
- Garantire l’accuratezza del riconoscimento facciale attraverso diverse tonalità della pelle