데이터셋: Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
이 용어는 허깅페이스(Hugging Face)의 ‘Nerfgun3’ 사용자 계정에 호스팅된 ‘Bad Prompt’라는 특정 데이터셋을 지칭합니다. 주요 벤치마크보다는 덜 표준화된 형태이지만, 이러한 데이터셋은 종종 모델의 견고성(robustness) 연구나 이상한 입력에 대한 모델 반응을 분석하는 데 사용됩니다.
Summary
모델의 견고성을 테스트하거나 노이즈 입력을 필터링하기 위해 사용될 것으로 보이는 적대적이거나 저품질의 의도적으로 잘못된 프롬프트를 포함하는 니치 데이터셋입니다.
Key Concepts
- 적대적 테스트
- 프롬프트 엔지니어링
- 데이터 노이즈
- 견고성 평가
Use Cases
- 모델 결함 모드 테스트
- 입력 정화기(Sanitizer) 학습
- 프롬프트 민감도 평가