Dataset:Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
Tento termín odkazuje na konkrétní dataset hostovaný na Hugging Face pod uživatelem ‘Nerfgun3’ s názvem ‘Bad Prompt’. Ačkoli není tak standardní jako hlavní benchmarky, tyto datasety se často používají ke studiu robustnosti modelů vůči škodlivým nebo nekonzistentním vstupům.
Summary
Niche dataset pravděpodobně obsahující adversariální, nízkokvalitní nebo úmyslně nesprávně vytvořené prompty, které se používají k testování robustnosti nebo filtrování zašuměných vstupů v jazykových modelech.
Key Concepts
- Adversariální testování
- Inženýrství promptů
- Šum v datech
- Hodnocení robustnosti
Use Cases
- Testování selhání modelů
- Trénování čistících nástrojů vstupů
- Vyhodnocování citlivosti na prompty