Algoritmisk bias
term_id: algorithmic_bias
Category: ethics_safety
Definition
Bias i algoritmer härstammar vanligtvis från icke-representativ träningsdata, subjektiva designval eller återkopplingsslingor som förstärker befintliga samhällsfördomar. Det manifesteras som snedvridna prediktioner eller beslut.
Summary
Algoritmisk bias syftar på systematiska och upprepbara fel i ett datorsystem som skapar orättvisa utfall, såsom att gynna en godtycklig grupp framför andra.
Key Concepts
- Datarepresentation
- Systematiskt fel
- Minskningsstrategier
Use Cases
- Att korrigera rangordningen av sökresultat
- Att balansera dataset för medicinsk diagnos
- Att diversifiera träningsset för bildigenkänning