毒性

Definition

AI中的毒性是指生成或传播不尊重他人、可能导致用户离开讨论或针对特定身份群体的内容。它涵盖了一个从轻微的不当言论到严重的仇恨言论和暴力威胁的光谱。在自然语言处理中，毒性通常被视为一种需要被识别和过滤的安全对齐问题，以确保AI系统不会成为网络欺凌或极端主义思想的传播渠道。

Summary

AI生成文本中存在有害、冒犯性或虐待性内容的现象，包括仇恨言论、骚扰和威胁。

Key Concepts

• 仇恨言论
• 骚扰
• 内容审核
• 伦理AI

Use Cases

• 社交媒体平台安全
• 客服机器人过滤
• 社区准则执行

Related Terms

• 偏见 (Bias)
• 安全对齐 (Safety Alignment)
• 内容过滤 (Content Filtering)
• 自然语言处理 (Natural Language Processing)