Inference na okraji sítě
term_id: edge_inference
Category: engineering_practice
Definition
Tato praxe zahrnuje nasazení vycvičených modelů AI přímo na hardware, jako jsou chytré telefony, senzory IoT nebo vestavěné systémy. Zpracováním dat lokálně inference na okraji sítě výrazně snižuje latenci a zlepšuje soukromí.
Summary
Inference na okraji sítě je proces provádění strojových učebních modelů lokálně na koncových zařízeních uživatelů místo v centrálních cloudových serverech.
Key Concepts
- Snížení latence
- Ochrana soukromí
- Kvantizace modelu
- Lokální zpracování
Use Cases
- Detekce objektů v reálném čase u autonomních dronů
- Rozpoznávání hlasu na chytrých reproduktorech
- Prediktivní údržba u průmyslových senzorů IoT