Algoritminen harha
term_id: algorithmic_bias
Category: ethics_safety
Definition
Harha algoritmeissa juontaa yleensä juurensa edustamattomasta koulutusdatasta, subjektiivisista suunnittelupäätöksistä tai palautesilmukoista, jotka vahvistavat olemassa olevia yhteiskunnallisia ennakkoluuloja. Se ilmenee vinoutuneina ennusteina tai luokittelutuloksina.
Summary
Algoritmiseen harhaan viittaa tietokonejärjestelmän systemaattisiin ja toistuviin virheisiin, jotka johtavat epäreiluihin lopputuloksiin, kuten tietyn mielivaltaisen ryhmän suosimiseen muihin verrattuna.
Key Concepts
- Datansaannin edustavuus
- Systemaattinen virhe
- Vähentämistoimenpiteet
Use Cases
- Hakutulosten sijoittelun korjaaminen
- Lääketieteellisten diagnoosidatajoukkojen tasapainottaminen
- Kuvantunnistuksen koulutusaineistojen monipuolistaminen