FP8
term_id: fp8
Category: basic_concepts
Definition
נקודה צפה 8 (FP8) היא סוג נתונים מספרי המציע איזון בין יעילות חישובית לדיוק, ומותאם ספציפית לחומרה מודרנית לבינה מלאכותית. הוא מפחית את דרישות רוחב הפס של הזיכרון ומאפשר עיבוד מהיר יותר של מודלים גדולים.
Summary
FP8 הוא פורמט נקודה צפה בת 8 סיביות המיועד להאיץ אימון וסטיות של למידה עמוקה תוך שמירה על דיוק מקובל.
Key Concepts
- כמותיות (Quantization)
- דיוק
- רוחב פס זיכרון
- האצחת חומרה
Use Cases
- אימון מודלי שפה גדולים (LLM)
- סטיות בינה מלאכותית בקצה (Edge AI)
- עיבוד וידאו בזמן אמת