Algoritmická zkreslenost
term_id: algorithmic_bias
Category: ethics_safety
Definition
Zkreslení v algoritmech obvykle pramení z nereprezentativních trénovacích dat, subjektivních návrhových rozhodnutí nebo zpětnovazebních smyček, které zesilují existující společenské předsudky. Projevuje se jako zkosené predikce nebo rozhodování.
Summary
Algoritmická zkreslenost označuje systematické a opakující se chyby v počítačovém systému, které vedou k nespravedlivým výsledkům, jako je zvýhodňování jedné libovolné skupiny nad ostatními.
Key Concepts
- Reprezentace dat
- Systematická chyba
- Strategie zmírnění
Use Cases
- Oprava pořadí výsledků vyhledávání
- Vyvažování datových sad pro lékařskou diagnostiku
- Rozšiřování trénovacích sad pro rozpoznávání obrazu