השגחה עצמית
term_id: self_supervised
Category: training_techniques
Definition
למידת השגחה עצמית היא תת-קבוצה של למידת מכונה שבה אות ההשגחה נגזר אוטומטית מהנתונים עצמם, מה שמבטל את הצורך בסימון ידני. המודל פותר בדרך כלל משימות ‘מדומות’ (כגון ניבוי המילה הבאה בטקסט או השלמת חלק חסר בתמונה) כדי ללמוד ייצוגים משמעותיים של הנתונים.
Summary
למידת השגחה עצמית היא טכניקה שבה המודל יוצר את התוויות שלו עצמו מהנתונים הקלטים כדי ללמוד ייצוגים ללא צורך בסימון ידני אנושי.
Key Concepts
- משימות עזר
- מודלי מסכה
- נתונים ללא תוויות
- למידת ייצוגים
Use Cases
- אימון BERT באמצעות מודלי שפה מסוכמים
- למידה מנוגדת להטמעות תמונה
- ניבוי אסימונים הבאים במודלי שפה גדולים