算法歧视

term_id: algorithmic_discrimination

Category: ethics_safety

Definition

这种现象源于AI模型因种族、性别、年龄或其他敏感属性而无意中或系统地对待个体不同。它通常源于有偏见的训练数据或

Summary

当自动化系统基于受保护的特征产生不公平或有偏见的结果，从而对特定群体造成不利时，即发生算法歧视。

Key Concepts

公平性
受保护属性
差异影响

Use Cases

审计招聘算法中的性别偏见
评估贷款审批系统中的种族差异
确保面部识别在不同肤色下的准确性