Inferensi tepi
term_id: edge_inference
Category: engineering_practice
Definition
Praktik ini melibatkan penyebaran model AI yang telah dilatih langsung ke perangkat keras seperti smartphone, sensor IoT, atau sistem tertanam. Dengan memproses data secara lokal, inferensi tepi secara signifikan mengurangi latensi
Summary
Inferensi tepi adalah proses menjalankan model pembelajaran mesin secara lokal pada perangkat pengguna akhir, bukan di server cloud terpusat.
Key Concepts
- Pengurangan latensi
- Pelestarian privasi
- Kuantisasi model
- Pemrosesan lokal
Use Cases
- Deteksi objek waktu nyata pada drone otonom
- Pengenalan suara pada speaker pintar
- Pemeliharaan prediktif pada sensor IoT industri