التخزين المؤقت

term_id: caching

Category: engineering_practice

Definition

في هندسة الذكاء الاصطناعي، يحسن التخزين المؤقت الأداء من خلال الاحتفاظ بنتائج الاستعلامات الأخيرة أو المتكررة، أو تنبؤات النماذج، أو الحسابات الوسيطة في ذاكرة سريعة (مثل الذاكرة العشوائية RAM). وهذا يقلل من الحاجة إلى إجراء حسابات مكلفة

Summary

التخزين المؤقت هو تقنية لتخزين البيانات التي يتم الوصول إليها بشكل متكرر في طبقة تخزين مؤقتة عالية السرعة لتقليل زمن الوصول وتحميل مصادر البيانات الأساسية.

Key Concepts

  • تقليل زمن الوصول
  • تحسين الذاكرة
  • سياسات الإقصاء
  • معدل الإصابة (Hit rate)

Use Cases

  • تخزين نتائج استنتاج النموذج
  • تخزين مخرجات استعلامات قاعدة البيانات مؤقتاً
  • حساب تضمينات الميزات مسبقاً

Code Example

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import redis

# Simple caching example
r = redis.Redis(host='localhost', port=6379, db=0)

def get_prediction(model_id, input_data):
    cache_key = f"pred_{model_id}_{hash(str(input_data))}"
    result = r.get(cache_key)
    if result:
        return result.decode('utf-8')
    # Compute if not cached
    prediction = model.predict(input_data)
    r.setex(cache_key, 3600, str(prediction))
    return prediction

Related