Dataset:Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
Thuật ngữ này đề cập đến một bộ dữ liệu cụ thể được lưu trữ trên Hugging Face dưới tên người dùng ‘Nerfgun3’, với tiêu đề ‘Bad Prompt’. Mặc dù không phổ biến như các bộ benchmark lớn, các bộ dữ liệu như vậy thường được sử dụng để nghiên cứu khả năng chống chịu (robustness) của mô hình trước các đầu vào độc hại hoặc không rõ ràng.
Summary
Một bộ dữ liệu chuyên biệt, có khả năng chứa các lời nhắc (prompts) đối kháng, chất lượng thấp hoặc cố ý bị lỗi, được sử dụng để kiểm tra độ bền vững hoặc lọc nhiễu đầu vào trong các mô hình ngôn ngữ.
Key Concepts
- Kiểm thử đối kháng (Adversarial Testing)
- Kỹ thuật Prompt (Prompt Engineering)
- Nhiễu dữ liệu (Data Noise)
- Đánh giá độ bền vững (Robustness Evaluation)
Use Cases
- Kiểm tra các điểm yếu/khiếu của mô hình
- Huấn luyện bộ lọc đầu vào (input sanitizers)
- Đánh giá độ nhạy cảm của mô hình với prompt