Thoát khỏi nhà tù (Jailbreak)
term_id: jailbreak
Category: ethics_safety
Definition
Jailbreak liên quan đến việc tạo ra các đầu vào hoặc gợi ý cụ thể để đánh lừa mô hình AI bỏ qua các hướng dẫn an toàn tích hợp sẵn và tạo ra nội dung bị cấm, chẳng hạn như ngôn từ thù ghét hoặc hướng dẫn nguy hiểm.
Summary
Kỹ thuật kỹ thuật gợi ý nhằm vượt qua bộ lọc an toàn và các ràng buộc đạo đức của mô hình AI.
Key Concepts
- Tiêm nhiễm gợi ý
- Bộ lọc an toàn
- Đội đỏ (Red Teaming)
- Sự phù hợp (Alignment)
Use Cases
- Kiểm tra nghiên cứu bảo mật
- Tạo nội dung gây hại một cách ác ý
- Đánh giá độ bền vững của mô hình