Dataset:Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
Denna term avser en specifik datamängd som finns på Hugging Face under användaren ‘Nerfgun3’ med titeln ‘Bad Prompt’. Även om den inte är en standardbenchmark, används sådana datamängder ofta för att studera modellernas robusthet mot dåliga eller manipulerade inmatningar.
Summary
En nischad datamängd som sannolikt innehåller adversariella, lågkvalitativa eller avsiktligt felaktiga prompts, använd för att testa robusthet eller filtrera brus i språkmodeller.
Key Concepts
- Adversariellt testande
- Prompt-engineering
- Databruss
- Robusthetsutvärdering
Use Cases
- Testning av modellens svagheter
- Träning av inmatningsrengörare
- Utvärdering av känslighet för prompts