Penyajian Model
term_id: model_serving
Category: engineering_practice
Definition
Penyajian model melibatkan pengambilan model statis yang telah dilatih dan membungkusnya dalam infrastruktur yang dapat diskalakan untuk menangani permintaan masuk, melakukan inferensi, dan mengembalikan hasil. Tantangan utamanya termasuk…
Summary
Proses penyebaran model pembelajaran mesin yang telah dilatih ke lingkungan produksi untuk membuat prediksi atau menghasilkan output bagi pengguna akhir.
Key Concepts
- Inferensi
- Optimisasi Latensi
- Skalabilitas
- Penyebaran
Use Cases
- Mesin rekomendasi waktu nyata
- API klasifikasi gambar
- Layanan pemrosesan bahasa alami