Qwen3 5 Moe
Definition
מונח זה מתייחס לארכיטקטורה ייעודית בתוך משפחת Qwen, הסבירה להניח המנצלת עיצוב של Mixture …
Terms tagged with Efficiency
מונח זה מתייחס לארכיטקטורה ייעודית בתוך משפחת Qwen, הסבירה להניח המנצלת עיצוב של Mixture …
כמותנה (Quantization) היא טכניקה לאופטימיזציה של מודלים, המפחיתה את הדיוק המספרי של …
גיזום כולל זיהוי והסרת נוירונים, חיבורים או מסננים ברשת עצבית התורמים מינימלית לדיוק …
כוונון הנחיות כולל הוספת הנחיות רכות ניתנות לאימון (וקטורים רציפים) לשכבת הקלט של מודל …
בלמידה פרו-אקטיבית, מערכת הבינה המלאכותית קובעת אילו דוגמאות יפחיתו את אי-הוודאות או …
כוונון קידומת הוא טכניקה להתאמה חסכונית בפרמטרים עבור טרנספורמרים מאומנים מראש. במקום …
Phi, ראשי תיבות של ‘מודלי יסוד המבוססים על פרוטוקול הוראה-למידה’, היא משפחה …
P-Tuning (או Prompt Tuning) היא טכניקה המיועדת להתאים מודלי שפה גדולים מאומנים מראש …
אופטימיזציה רב-משימתית כוללת אימון מודל יחיד לטפל במספר משימות נפרדות אך קשורות בו-זמנית. …
טכניקה זו מנצלת את ההטיות האינדוקטיביות המשותפות בין משימות קשורות כדי לשפר את יעילות …
ערבוב מומחים (MoE) היא ארכיטקטורת למידת מכונה המיועדת לשפר יעילות ונדידות. במקום להשתמש …
קטגוריה זו כוללת שיטות כמו חיתוך (pruning), כימות (quantization) ודיסטילציית ידע, …
Mixtral הוא LLM חלוץ בעל משקלים גלויים המשתמש בארכיטקטורה של מיקס ספקים דליל (Sparse …
DeepSeek V3 הוא איטרציה מתקדמת במשפחת מודלי DeepSeek, המתאפיינת בהפעלה צפופה רק של …
אוטומציה של תהליכי עסקים (BPA) כרוכה בניצול תוכנה ו-AI לפישוט זרימות עבודה עסקיות …
עיבוד אצוות כולל הצטברות של קלט נתונים לקבוצה, או אצווה, לפני ביצוע חישוב או מסקנת מודל. …
AutoML מפשט את פיתוח מודלי ML על ידי אוטומציה של משימות כמו ניקוי נתונים, הנדסת תכונות, …
קבלת החלטות אוטומטית (ADM) מסתמכת על מערכות תוכנה כדי לקבל החלטות שבעבר דרשו שיפוט אנושי. …
למידה אקטיבית מפחיתה את כמות הנתונים המסומנים הנדרשת על ידי מתן אפשרות למודל לבחור את …
למידה ללא דוגמאות מאפשרת למודל למידה מכונה לסווג דוגמאות של מחלקות שלא היו נוכחות במערך …
QLoRA משלבת התאמה מדורגת נמוכה (LoRA) עם קוונטיזציה ל-4 סיביות כדי להפחיש משמעותית את נפח …
למידה בדוגמאות מועטות שואפת לאפשר למודלים כלליזציה מתוך מספר מועט של דוגמאות, תוך חיקוי …
מתאמים הם טכניקת כיוון עדיף חסכונית בפרמטרים המשמשת בעיקר במודלי שפה גדולים …
גישות ללא אימון מתייחסות לטכניקות המשנות את התנהגות המודל או את הפלט שלו ללא עדכון …
מודל מוכן מראש הוא מודל בסיס בינה מלאכותית שעבר אימון נרחב על ערכות נתונים עצומות …
בינה מלאכותית בעלות נמוכה מתמקדת ביעילות, במטרה להפחית את מחסומי הכניסה וההוצאות …
למידה בהעברה מנצלת מודלים מאומנים מראש כדי לשפר ביצועים ולהפחית את זמן האימון במשימות …
מאמבה מייצגת התקדמות משמעותית במודלי רצף על ידי הצגת מודל מרחב מצבים סלקטיבי המותאם …
LoRA מקפיאה את משקלי המודל המאומנים מראש ומכניסה מטריצות פירוק ניתנות לאימון לכל שכבה …
בהקשרי בינה מלאכותית, ‘ישיר’ מתאר לעיתים קרובות ארכיטקטורות או מסלולי הסקה …
אוטומציה בבינה מלאכותית כוללת שימוש באלגוריתמים ובמערכות לביצוע משימות הדורשות בעבר מאמץ …