Inferentie

term_id: inference

Category: engineering_practice

Definition

Inferentie verwijst naar de implementatiefase waarin een voltooid model wordt gebruikt om beslissingen of voorspellingen te doen over ongeziene gegevens. In tegenstelling tot training, waarbij gewichten worden bijgewerkt, verbruikt inferentie rekenkracht

Summary

De fase waarin een getraind model nieuwe gegevens verwerkt om voorspellingen of outputs te genereren.

Key Concepts

  • Voorspelling
  • Latentie (vertraging)
  • Doorvoer
  • Implementatie

Use Cases

  • Realtime fraudeopsporing bij banktransacties
  • Het genereren van reacties tijdens live chatbot-interacties
  • Het classificeren van afbeeldingen in autonome voertuigsystemen

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related