הסקה

term_id: inference

Category: engineering_practice

Definition

הסקה מתייחסת לשלב הפריסה שבו מודל סופי משמש לקבלת החלטות או תחזיות על נתונים שלא נראו בעבר. בניגוד לאימון, שמעדכן משקלים, הסקה צורכת משאבים חישוביים

Summary

השלב שבו מודל מאומן מעבד נתונים חדשים כדי ליצור תחזיות או פלט.

Key Concepts

תחזית
השהייה (Latency)
תפוקה (Throughput)
פריסה

Use Cases

זיהוי הונאות בזמן אמת בעסקאות בנקאיות
יצירת תגובות באינטראקציות חיות עם צ’אטבוט
מיון תמונות במערכות רכב אוטונומי

Code Example

1
2
3
4
5
import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)