Dyskryminacja algorytmiczna
term_id: algorithmic_discrimination
Category: ethics_safety
Definition
Zjawisko to powstaje, gdy modele sztucznej inteligencji nieumyślnie lub systematycznie traktują osoby różnie ze względu na rasę, płeć, wiek lub inne wrażliwe atrybuty. Często wynika to ze stronniczych danych treningowych lub projektów algorytmów.
Summary
Dyskryminacja algorytmiczna występuje, gdy zautomatyzowane systemy generują niesprawiedliwe lub stronnicze wyniki, które dyskryminują konkretne grupy ze względu na chronione cechy.
Key Concepts
- Sprawiedliwość
- Atrybuty chronione
- Nierówny wpływ (Disparate Impact)
Use Cases
- Audyt algorytmów rekrutacyjnych pod kątem stronniczości płciowej
- Ewaluacja systemów przyznawania kredytów pod kątem rasowych nierówności
- Zapewnienie dokładności rozpoznawania twarzy na różnych odcieniach skóry