Безопасность
term_id: safety
Category: ethics_safety
Definition
Безопасность ИИ — это междисциплинарная область, сосредоточенная на предотвращении неблагоприятных исходов от развития передового искусственного интеллекта. Она охватывает технические проблемы, такие как выравнивание ценностей, интерпретируемость, устойчивость и контроль над сложными системами.
Summary
Изучение и практика обеспечения того, чтобы системы ИИ не причиняли физического, цифрового или социального вреда.
Key Concepts
- Выравнивание ценностей
- Интерпретируемость
- Теория управления
- Оценка рисков
Use Cases
- Разработка аварийных выключателей для автономных транспортных средств
- Аудит алгоритмов на наличие предвзятости
- Создание нормативно-правовых рамок для развертывания ИИ