算法偏见

term_id: algorithmic_bias

Category: ethics_safety

Definition

算法偏见通常源于非代表性的训练数据、主观的设计选择或放大现有社会偏见的反馈循环。它表现为预测结果的偏差

Summary

算法偏见是指计算机系统中系统性且可重复的错误，导致不公平的结果，例如偏袒某一任意群体而忽视其他群体。

Key Concepts

数据代表性
系统性错误
缓解策略

Use Cases

纠正搜索结果排名
平衡医疗诊断数据集
多样化图像识别训练集