Wnioskowanie na brzegu sieci

term_id: edge_inference

Category: engineering_practice

Definition

Ta praktyka polega na wdrażaniu wytrenowanych modeli sztucznej inteligacji bezpośrednio na sprzęt, taki jak smartfony, czujniki IoT lub systemy wbudowane. Dzięki przetwarzaniu danych lokalnie wnioskowanie na brzegu sieci znacząco redukuje opóźnienia.

Summary

Wnioskowanie na brzegu sieci to proces wykonywania modeli uczenia maszynowego lokalnie na urządzeniach końcowych użytkowników, zamiast w scentralizowanych serwerach chmurowych.

Key Concepts

  • Redukcja opóźnień
  • Ochrona prywatności
  • Kwantyzacja modelu
  • Przetwarzanie lokalne

Use Cases

  • Wykrywanie obiektów w czasie rzeczywistym w autonomicznych dronach
  • Rozpoznawanie głosu w inteligentnych głośnikach
  • Prognozowanie awarii w przemysłowych czujnikach IoT