מודל שפה גדול

term_id: llm

Category: basic_concepts

Definition

מודלי שפה גדולים (LLMs) הם מערכות בינה מלאכותית מתקדמות המבוססות על ארכיטקטורות טרנספורמר, המאומנות על ערכות נתונים עצומות של טקסט וקוד. הן לומדות דפוסים סטטיסטיים בשפה

Summary

מודל למידה עמוקה המאומן על אוצרות טקסט עצומים כדי להבין ולייצר שפה הדומה לשפת אדם.

Key Concepts

  • ארכיטקטורת טרנספורמר
  • חיזוי טוקנים
  • אימון מקדים
  • חוק הסקלה

Use Cases

  • צ’אטבוטים ועוזרים וירטואליים
  • יצירת תוכן
  • השלמת קוד