Dataset:Nerfgun3/Bad Prompt
term_id: datasetnerfgun3bad_prompt
Category: application_paradigms
Definition
מונח זה מתייחס למערכת נתונים ספציפית המאוחסנת ב-Hugging Face תחת המשתמש ‘Nerfgun3’, בשם ‘Bad Prompt’. בעוד שמערכת זו פחות סטנדרטית ממדדים ראשיים, מערכות נתונים מסוג זה משמשות לעיתים קרובות ללימוד חוסן המודל בפני קלטים בעייתיים.
Summary
מערכת נתונים נישה המכילה ככל הנראה פרומפטים אדוורסריאליים, באיכות נמוכה או מעוותים במכוון, המשמשים לבדיקת חוסן המודל או סינון קלט רועש.
Key Concepts
- בדיקות אדוורסריות
- הנדסת פרומפטים
- רעש נתונים
- הערכת חוסן
Use Cases
- בדיקת מצבי כשל של המודל
- אימון מסנני קלט
- הערכת רגישות לפרומפטים