Stronniczość algorytmiczna
term_id: algorithmic_bias
Category: ethics_safety
Definition
Stronniczość w algorytmach zwykle pochodzi z niereprezentatywnych danych treningowych, subiektywnych wyborów projektowych lub pętli sprzężenia zwrotnego, które wzmacniają istniejące uprzedzenia społeczne. Objawia się jako zniekształcone przewidywania.
Summary
Stronniczość algorytmiczna odnosi się do systematycznych i powtarzalnych błędów w systemie komputerowym, które prowadzą do niesprawiedliwych wyników, takich jak faworyzowanie jednej arbitralnej grupy nad innymi.
Key Concepts
- Reprezentacja danych
- Błąd systematyczny
- Strategie łagodzenia
Use Cases
- Korekta rankingów wyników wyszukiwania
- Uwzględnienie zróżnicowania w zbiorach danych do diagnozy medycznej
- Dywersyfikacja zbiorów treningowych do rozpoznawania obrazów