엣지 추론(Edge Inference)
term_id: edge_inference
Category: engineering_practice
Definition
이 관행은 스마트폰, IoT 센서 또는 임베디드 시스템과 같은 하드웨어에 훈련된 AI 모델을 직접 배포하는 것을 포함합니다. 데이터를 로컬에서 처리함으로써 엣지 추론은 지연 시간을 크게 줄이고 네트워크 대역폭 사용을 최소화하며, 데이터가 외부로 전송되지 않으므로 프라이버시를 강화합니다. 이를 위해서는 모델의 경량화가 종종 필요합니다.
Summary
엣지 추론(Edge Inference)은 중앙 집중식 클라우드 서버 대신 최종 사용자 기기에서 기계 학습 모델을 로컬로 실행하는 과정입니다.
Key Concepts
- 지연 시간 감소
- 프라이버시 보존
- 모델 양자화(Model Quantization)
- 로컬 처리
Use Cases
- 자율 드론의 실시간 객체 감지
- 스피커의 음성 인식
- 산업용 IoT 센서의 예측 유지보수