Inferensi

term_id: inference

Category: engineering_practice

Definition

Inferensi merujuk pada tahap penempatan di mana model final digunakan untuk membuat keputusan atau prediksi pada data yang belum pernah dilihat. Berbeda dengan pelatihan yang memperbarui bobot, inferensi mengonsumsi sumber daya komputasi

Summary

Tahap di mana model yang telah dilatih memproses data baru untuk menghasilkan prediksi atau keluaran.

Key Concepts

  • Prediksi
  • Latensi
  • Throughput
  • Penempatan (Deployment)

Use Cases

  • Deteksi penipuan waktu nyata dalam transaksi perbankan
  • Menghasilkan respons dalam interaksi chatbot langsung
  • Mengklasifikasikan gambar dalam sistem kendaraan otonom

Code Example

1
2
3
4
5

import torch
model.eval()
with torch.no_grad():
    output = model(input_tensor)
    prediction = torch.argmax(output, dim=1)

Related