Độc hại
term_id: toxicity
Category: ethics_safety
Definition
Độc hại trong AI đề cập đến việc tạo ra hoặc lan truyền nội dung thiếu tôn trọng, có khả năng khiến người khác rời khỏi cuộc thảo luận hoặc tập trung vào một danh tính cụ thể. Nó bao gồm một phổ từ những lời lẽ thô tục nhẹ đến các mối đe dọa bạo lực nghiêm trọng.
Summary
Sự hiện diện của nội dung gây hại, xúc phạm hoặc lạm dụng trong văn bản do AI tạo ra, bao gồm ngôn từ thù ghét, quấy rối và đe dọa.
Key Concepts
- Ngôn từ thù ghét
- Quấy rối
- Kiểm duyệt nội dung
- AI có đạo đức
Use Cases
- An toàn nền tảng mạng xã hội
- Lọc bot dịch vụ khách hàng
- Thực thi hướng dẫn cộng đồng