刻板印象

term_id: stereotype

Category: ethics_safety

Definition

在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。

Summary

一种概括性的、往往过于简化的信念，反映在 AI 的输出中。

Key Concepts

算法偏见
公平性
社会偏见
歧视

Use Cases

审计招聘算法中的性别偏见
纠正面部识别中的种族偏见
开发更公平的自然语言处理模型