Edge-inferens

term_id: edge_inference

Category: engineering_practice

Definition

Denne praksis indebærer at udrulle trænet AI-hardware direkte på hardware som smartphones, IoT-sensorer eller indlejrede systemer. Ved at behandle data lokalt reduceres latensen betydeligt.

Summary

Edge-inferens er processen med at køre maskinlæringsmodeller lokalt på slutbrugerenheder i stedet for i centraliserede cloud-servers.

Key Concepts

  • Latensreduktion
  • Privatlivsbeskyttelse
  • Modelkvantisering
  • Lokal behandling

Use Cases

  • Objektdetektering i realtid i autonome droner
  • Talegenkendelse på smarte højttalere
  • Prediktiv vedligeholdelse på industrielle IoT-sensorer