ضغط النموذج

term_id: model_compression

Category: training_techniques

Definition

تشمل هذه الفئة طرقاً مثل التقليم، والكمّنة، وتقطيع المعرفة، بهدف تقليص بصمة النموذج مع الحفاظ على الأداء. وهو أمر ضروري لنشر نماذج الذكاء الاصطناعي المعقدة

Summary

يشير ضغط النموذج إلى التقنيات التي تقلل من حجم المتطلبات الحسابية لنماذج تعلم الآلة.

Key Concepts

  • الكمّنة
  • التقليم
  • تقطيع المعرفة
  • سرعة الاستدلال

Use Cases

  • نشر النماذج على الأجهزة المحمولة
  • تخفيض تكاليف الاستدلال السحابي
  • تسريع معالجة الفيديو في الوقت الفعلي

Code Example

1
2

import torch.quantization as quant
model = quant.quantize_dynamic(model, {torch.nn.Linear}, dtype=torch.qint8)

Related