استضافة النماذج
term_id: model_serving
Category: engineering_practice
Definition
تشمل استضافة النماذج أخذ نموذج مدرب ثابت وتغليفه في بنية تحتية قابلة للتوسع تتعامل مع الطلبات الواردة، وتنفيذ الاستدلال (Inference)، وإرجاع النتائج. تشمل التحديات الرئيسية إدارة الحمل وضمان زمن استجابة منخفض.
Summary
عملية نشر نماذج تعلم الآلة المدربة في بيئات الإنتاج لتقديم التنبؤات أو توليد المخرجات للمستخدمين النهائيين.
Key Concepts
- الاستدلال
- تحسين زمن الاستجابة
- القابلية للتوسع
- النشر
Use Cases
- محركات التوصية في الوقت الفعلي
- واجهات برمجة التطبيقات لتصنيف الصور
- خدمات معالجة اللغة الطبيعية