강건성

Definition

AI 안전성과 윤리에서 강건성은 예기치 않은 입력이나 악의적 조작에 대한 모델의 회복력을 의미합니다. 강건한 시스템은 입력 데이터에 노이즈가 포함되어 있더라도 올바르게 작동합니다.

Summary

노이즈가 있는 데이터, 적대적 공격 또는 분포 변화에 직면했을 때 AI 모델의 성능과 안정성을 유지하는 능력.

Key Concepts

• 적대적 공격
• 분포 변화
• 노이즈 내성
• 모델 신뢰성

Use Cases

• 자율주행 차량 지각
• 사기 탐지 시스템
• 의료 진단 모델

Related Terms

• adversarial_ml (적대적 머신러닝)
• model_reliability (모델 신뢰성)
• generalization (일반화)
• safety (안전성)