למידה חצויה-עצמית
term_id: self_supervised_learning
Category: training_techniques
Definition
למידה חצויה-עצמית היא טכניקה שבה האלגוריתם יוצר אותות פיקוח מהנתונים ללא תוויות עצמם, לרוב על ידי ניבוי חלקים חסרים בקלט. היא גשר בין למידה מפוקחת ללא מפוקחת, ומאפשרת לניצול כמויות עצומות של נתונים לא מסומנים ללמידת ייצוגים משמעותיים.
Summary
שיטת אימון שבה המודל יוצר תוויות משלו מהנתונים הקלטים כדי ללמוד ייצוגים.
Key Concepts
- הכנה מקדימה (Pre-training)
- מודלינג שפה масוד (Masked)
- למידה קונטרסטית
- למידת ייצוגים
Use Cases
- אימון מודלי שפה גדולים
- למידת ייצוגים לתמונות
- מערכות להכרה בדיבור
Code Example
| |