有害内容

term_id: harmful_content

Category: ethics_safety

Definition

有害内容是指可能造成身体、心理或社会损害的数字媒体或文本。在人工智能安全领域，检测并过滤此类内容至关重要，以防止模型生成…

Summary

对个人或社会构成风险的信息，包括仇恨言论、暴力和非法行为。

Key Concepts

内容审核
人工智能安全
毒性检测
伦理准则

Use Cases

社交媒体平台过滤
自动化内容审查系统
人工智能模型对齐训练