Mistral

term_id: mistral

Category: basic_concepts

Definition

Mistral מתייחס למשפחה של מודלי שפה גדולים (LLMs) בעלי משקלים גלויים ויעילים, שנוצרו על ידי הסטארטאפ הצרפתי Mistral AI. מודלים כמו Mistral 7B ו-Mistral Large משתמשים בטכניקות מתקדמות כמו Sliding Window Attention

Summary

סדרה של מודלי שפה גדולים (LLMs) בקוד פתוח עם משקלים גלויים, שפותחו על ידי Mistral AI, הידועים בביצועים גבוהים עם עלויות חישוב נמוכות יותר.

Key Concepts

  • משקלים גלויים (Open-Weight)
  • Sliding Window Attention
  • יעילות
  • Mistral AI

Use Cases

  • הטמעת LLM מקומית
  • התאמה עדינה (Fine-tuning) לתחומים ספציפיים
  • סקירה (Inference) חסכונית מבחינת עלות