Inferență

term_id: inference

Category: engineering_practice

Definition

Inferența se referă la faza de implementare în care un model finalizat este folosit pentru a lua decizii sau a face predicții pe date necunoscute. Spre deosebire de antrenament, care actualizează ponderile, inferența consumă resurse computaționale pentru a genera rezultate.

Summary

Faza în care un model antrenat procesează date noi pentru a genera predicții sau ieșiri.

Key Concepts

  • Predicție
  • Latență
  • Pragmatică (Throughput)
  • Implementare

Use Cases

  • Detectarea fraudei în timp real în tranzacțiile bancare
  • Generarea răspunsurilor în interacțiuni live cu roboți de chat
  • Clasificarea imaginilor în sistemele de vehicule autonome

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related