למידה בהקשר

term_id: in_context_learning

Category: application_paradigms

Definition

למידה בהקשר (ICL) מאפשרת למודלי שפה גדולים להסתגל למשימות חדשות ללא עדכון המשקלים שלהם. על ידי מתן זוגות קלט-פלט בתוך הקשר ההנחיה, המודל מסיק את הדפוס ו-

Summary

טכניקה שבה מודלים לומדים לבצע משימות על ידי התבוננות בדוגמאות המסופרות בהנחיה.

Key Concepts

  • למידה עם מעט דוגמאות (Few-Shot)
  • אפס דוגמאות (Zero-Shot)
  • עיצוב הנחיה
  • הסתגלות ללא משקלים

Use Cases

  • בדיקה מהירה של יכולות המודל על מערכי נתונים חדשים
  • החלפת משימות דינמית בסוכנים קונברסטיביים
  • פיתוח אב טיפוס ליישומי AI ללא אימון מחדש

Code Example

1
2
prompt = "Translate English to French:\nEnglish: Hello\nFrench: Bonjour\nEnglish: Cat\nFrench:"
response = model.generate(prompt)