Johtopäätösten tekeminen (Inferenssi)

term_id: inference

Category: engineering_practice

Definition

Inferenssi viittaa käyttöönottovaiheeseen, jossa valmis mallia käytetään tekemään päätelmiä tai ennusteita näkemättömälle datalle. Toisin kuin koulutus, joka päivittää painoarvoja, inferenssi kuluttaa laskentaresursseja tulosten tuottamiseen.

Summary

Vaihe, jossa koulutettu malli käsittelee uutta dataa tuottaakseen ennusteita tai tuloksia.

Key Concepts

  • Ennuste
  • Viive (Latency)
  • Läpäisykyky (Throughput)
  • Käyttöönotto

Use Cases

  • Reaaliaikainen petosten tunnistaminen pankkitapahtumissa
  • Vastauksien generointi elävissä chatbot-keskusteluissa
  • Kuvien luokittelu autonomisissa ajoneuvojärjestelmissä

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related