데이터 독성(Data Poisoning)

term_id: data_poisoning

Category: ethics_safety

Definition

이 적대적 기법은 훈련 데이터를 변경하여 머신러닝 모델의 무결성을 훼손하는 것을 목표로 합니다. 공격자는 미묘한 오류나 편향된 예제를 도입하여 모델이 잘못된 패턴을 학습하도록 유도할 수 있습니다.

Summary

데이터 독성은 악의적인 행위자가 학습 세트에 손상되거나 오해의 소지가 있는 데이터를 주입하여 모델 성능을 저하시키는 보안 공격입니다.

Key Concepts

적대적 공격(Adversarial Attack)
모델 무결성(Model Integrity)
훈련 데이터 보안(Training Data Security)
백도어 공격(Backdoor Attacks)

Use Cases

ML 파이프라인의 보안 테스트
공개 데이터셋의 취약점 이해
강건한 방어 메커니즘 개발