毒性

Definition

AIにおける毒性とは、無礼であり、議論からの離脱を促す可能性が高く、特定のアイデンティティに焦点を当てたコンテンツの生成または拡散を指します。これは、軽度な侮辱から深刻な憎悪表現に至るまで、幅広いスペクトラムを含みます。

Summary

AI生成テキストに含まれる有害、攻撃的、または虐待的なコンテンツの存在。ヘイトスピーチ、ハラスメント、脅迫などを含む。

Key Concepts

• ヘイトスピーチ
• ハラスメント
• コンテンツモデレーション
• 倫理的AI

Use Cases

• ソーシャルメディアプラットフォームの安全性確保
• カスタマーサービスボットのフィルタリング
• コミュニティガイドラインの執行

Related Terms

• バイアス
• セーフティアライメント
• コンテンツフィルタリング
• 自然言語処理