Nội dung gây hại
term_id: harmful_content
Category: ethics_safety
Definition
Nội dung gây hại đề cập đến phương tiện kỹ thuật số hoặc văn bản có thể gây ra tổn hại về thể chất, tâm lý hoặc xã hội. Trong lĩnh vực an toàn AI, việc phát hiện và lọc các nội dung này là cực kỳ quan trọng để ngăn chặn mô hình tạo ra
Summary
Thông tin đe dọa đến cá nhân hoặc xã hội, bao gồm ngôn từ thù ghét, bạo lực và các hành vi trái pháp luật.
Key Concepts
- Kiểm duyệt nội dung
- An toàn AI
- Phát hiện độc tính
- Hướng dẫn đạo đức
Use Cases
- Lọc trên nền tảng mạng xã hội
- Hệ thống xem xét nội dung tự động
- Huấn luyện căn chỉnh mô hình AI