Levezetés (Inference)

term_id: inference

Category: engineering_practice

Definition

A levezetés (inference) a telepítési szakaszt jelenti, amikor egy véglegesített modellt használnak döntések meghozatalára vagy előrejelzések készítésére addig nem látott adatokon. A tanítással ellentétben, amely frissíti a súlyokat, a levezetés…

Summary

Az a fázis, amikor egy betanított modell új adatokat dolgoz fel előrejelzések vagy kimenetek generálásához.

Key Concepts

  • Előrejelzés
  • Késleltetés (Latency)
  • Teljesítmény (Throughput)
  • Telepítés

Use Cases

  • Valós idejű csalásmegelőzés banki tranzakcióknál
  • Válaszok generálása élő chatbot-interakciókban
  • Képek osztályozása autonóm járműrendszerekben

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related