안전한(Safe)
term_id: safe
Category: basic_concepts
Definition
AI의 안전성은 자동화된 시스템이 예측 가능하게 행동하고 의도하지 않은 부정적인 결과를 초래하지 않도록 보장하기 위해 제약 조건과 안전 장치를 구현하는 것을 포함합니다. 여기에는 기술적 조치와 윤리적 가이드라인이 모두 포함됩니다.
Summary
인간, 재산 또는 환경에 해를 끼치지 않도록 설계된 AI 시스템을 지칭합니다.
Key Concepts
- 피해 예방
- 비상 정지 장치(Fail-safes)
- 예측 가능성
- 위험 완화
Use Cases
- 항공 관제 시스템
- 의료 진단 도구
- 금융 거래 알고리즘