Граничный вывод (Edge inference)
term_id: edge_inference
Category: engineering_practice
Definition
Эта практика предполагает развертывание обученных моделей ИИ непосредственно на таком оборудовании, как смартфоны, датчики Интернета вещей (IoT) или встроенные системы. Обработка данных локально значительно снижает задержку и повышает конфиденциальность.
Summary
Граничный вывод — это процесс выполнения моделей машинного обучения локально на устройствах конечных пользователей, а не на централизованных облачных серверах.
Key Concepts
- Снижение задержки
- Сохранение конфиденциальности
- Квантование модели
- Локальная обработка
Use Cases
- Обнаружение объектов в реальном времени для автономных дронов
- Распознавание голоса на умных колонках
- Прогнозное обслуживание на промышленных датчиках IoT