Wnioskowanie

term_id: inference

Category: engineering_practice

Definition

Wnioskowanie odnosi się do etapu wdrożenia, w którym finalizowany model jest używany do podejmowania decyzji lub przewidywań na niewidzianych wcześniej danych. W przeciwieństwie do treningu, który aktualizuje wagi, wnioskowanie zużywa zasoby…

Summary

Faza, w której wytrenowany model przetwarza nowe dane, aby wygenerować przewidywania lub wyniki.

Key Concepts

  • Przewidywanie
  • Opóźnienie
  • Przepustowość
  • Wdrożenie

Use Cases

  • Wykrywanie oszustw w czasie rzeczywistym podczas transakcji bankowych
  • Generowanie odpowiedzi w interakcjach z chatbotem na żywo
  • Klasyfikacja obrazów w systemach pojazdów autonomicznych

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related