アルゴリズム差別

term_id: algorithmic_discrimination

Category: ethics_safety

Definition

この現象は、AIモデルが人種、性別、年齢、または他の機微な属性のために、個人を無意識のうちに、あるいは体系的に異なる扱いをする場合に生じます。これはしばしば、偏ったトレーニングデータやアルゴリズム設計に起因します。

Summary

アルゴリズム差別とは、自動化されたシステムが、保護された特性に基づいて特定のグループに不利な不公平または偏った結果を生み出すことを指します。

Key Concepts

公平性
保護属性
差別的影響

Use Cases

採用アルゴリズムにおける性別バイアスの監査
ローン承認システムの人種的格差の評価
肌色を超えた顔認識精度の確保