Algoritmisk bias
term_id: algorithmic_bias
Category: ethics_safety
Definition
Bias i algoritmer stammer typisk fra ikke-repræsentative træningsdata, subjektive designvalg eller feedback-løkker, der forstærker eksisterende samfundsmæssige fordomme. Det manifesterer sig som skæve forudsigelser eller behandling af bestemte demografier.
Summary
Algoritmisk bias refererer til systematiske og gentagelige fejl i et computersystem, der skaber uretfærdige resultater, såsom begunstigelse af én vilkårlig gruppe frem for andre.
Key Concepts
- Datarepræsentation
- Systematisk fejl
- Mildringsstrategier
Use Cases
- Korrektion af søgeresultat-rangeringer
- Balancerings af medicinske diagnose-datasæt
- Diversificering af træningsdatasæt til billedgenkendelse