모델 추출
Definition
모델 추출은 대상 머신러닝 모델의 API를 쿼리하여 내부 구조, 가중치 또는 의사결정 경로를 추론하는 과정을 포함합니다. 공격자는 이러한 쿼리를 사용하여 원본 …
Adversarial ML
Terms tagged with Adversarial ML
Terms tagged with Adversarial ML
모델 추출은 대상 머신러닝 모델의 API를 쿼리하여 내부 구조, 가중치 또는 의사결정 경로를 추론하는 과정을 포함합니다. 공격자는 이러한 쿼리를 사용하여 원본 …
백도어 공격은 머신러닝 모델의 학습 데이터에 ‘트리거’라고 불리는 특정 패턴을 포함시켜 데이터를 오염시키는 기법입니다. 정상적인 입력 데이 …
AI 저항은 개인이나 조직이 AI 알고리즘에 의해 영향받거나, 추적되거나, 분류되는 것을 피하기 위해 사용하는 방법을 의미합니다. 여기에는 지각 시스템에 대한 …