Устойчивость
term_id: robustness
Category: ethics_safety
Definition
В контексте безопасности и этики ИИ устойчивость относится к устойчивости модели к неожиданным входным данным или злонамеренным манипуляциям. Устойчивая система продолжает корректно функционировать даже тогда, когда входные данные содержат шум
Summary
Способность модели ИИ сохранять производительность и стабильность при работе с зашумленными данными, в условиях состязательных атак или смещения распределения данных.
Key Concepts
- Состязательные атаки
- Смещение распределения
- Устойчивость к шуму
- Надежность модели
Use Cases
- Системы восприятия автономных транспортных средств
- Системы обнаружения мошенничества
- Модели медицинской диагностики