アルゴリズムバイアス
term_id: algorithmic_bias
Category: ethics_safety
Definition
アルゴリズムのバイアスは通常、代表性のないトレーニングデータ、主観的な設計上の選択、または既存の社会的偏見を増幅させるフィードバックループに起因します。これは、偏った予測結果として現れます。
Summary
アルゴリズムバイアスとは、コンピュータシステムにおける系統的かつ反復可能なエラーにより、特定の任意のグループを他よりも優遇するなど、不公平な結果を生み出すことを指します。
Key Concepts
- データの代表性
- 系統的エラー
- 緩和戦略
Use Cases
- 検索結果のランキング是正
- 医療診断データセットのバランス調整
- 画像認識用トレーニングセットの多様化