שבירת כלוב
term_id: jailbreak
Category: ethics_safety
Definition
שבירת כלוב כוללת ניסוח קלטים או הנחיות ספציפיים המטעים מודל בינה מלאכותית להתעלם מהנחיות הבטיחות המובנות בו ולייצר תוכן אסור, כמו דיבור שטן או הוראות מסוכנות.
Summary
טכניקת הנדסת הנחיות המיועדת לעקוף מסנני בטיחות והגבלות אתיות של מודל בינה מלאכותית.
Key Concepts
- הזרקת הנחיה
- מסנני בטיחות
- צוות אדום (Red Teaming)
- יישור (Alignment)
Use Cases
- בדיקות מחקר אבטחה
- יצירת תוכן מזיק במזיד
- הערכת חוסן המודל