안전성(Safety)

term_id: safety

Category: ethics_safety

Definition

AI 안전성(AI Safety)은 고급 인공지능으로 인한 악영향을 방지하는 데 중점을 둔 다학제적 분야입니다. 여기에는 정렬(Alignment), 해석 가능성, 견고함 등 기술적 과제와 규제 프레임워크 개발이 포함됩니다.

Summary

AI 시스템이 물리적, 디지털 또는 사회적 해를 끼치지 않도록 보장하는 연구 및 실천 분야입니다.

Key Concepts

  • 가치 정렬(Value Alignment)
  • 해석 가능성(Interpretability)
  • 제어 이론(Control Theory)
  • 위험 평가(Risk Assessment)

Use Cases

  • 자율 차량용 비상 정지 장치 개발
  • 알고리즘 편향 감사
  • AI 배포를 위한 규제 프레임워크 수립

Related