Bias Algoritmik
term_id: algorithmic_bias
Category: ethics_safety
Definition
Bias dalam algoritma biasanya berasal dari data pelatihan yang tidak representatif, pilihan desain subjektif, atau umpan balik yang memperkuat prasangka sosial yang sudah ada. Hal ini memanifestasikan diri sebagai prediksi yang menyimpang atau perlakuan yang tidak setara.
Summary
Bias algoritmik merujuk pada kesalahan sistematis dan berulang dalam sistem komputer yang menciptakan hasil tidak adil, seperti menguntungkan satu kelompok arbitrer dibandingkan lainnya.
Key Concepts
- Representasi Data
- Kesalahan Sistematis
- Strategi Mitigasi
Use Cases
- Memperbaiki peringkat hasil pencarian
- Menyeimbangkan dataset diagnosis medis
- Mendiversifikasi set pelatihan pengenalan gambar