모델 추출
Definition
모델 추출은 대상 머신러닝 모델의 API를 쿼리하여 내부 구조, 가중치 또는 의사결정 경로를 추론하는 과정을 포함합니다. 공격자는 이러한 쿼리를 사용하여 원본 …
Security
Terms tagged with Security
워터마킹
Definition
생성형 AI가 점점 더 많은 합성 미디어를 생산함에 따라, 워터마킹은 투명성과 책임성을 위한 중요한 도구가 됩니다. 이는 이미지, …
주권 AI(Sovereign AI)
Definition
주권 AI는 국가나 조직이 외국 클라우드 제공업체나 독점 기술에 의존하지 않고 인공 지능 시스템을 독립적으로 구축, 배포 및 관리할 수 있는 능력을 설명합니다. …
슬로파간다
Definition
슬로파간다는 바이러스성 충격 전술보다는 반복, 모호성, 그리고 장기적인 노출에 의존하는 전략적 형태의 허위 정보를 설명합니다. 이는 청중을 혼란스럽게 하고 진실 …
강건성
Definition
AI 안전성과 윤리에서 강건성은 예기치 않은 입력이나 악의적 조작에 대한 모델의 회복력을 의미합니다. 강건한 시스템은 입력 데이터에 노이즈가 포함되어 있더라도 …
AI 저항(Resisting AI)
Definition
AI 저항은 개인이나 조직이 AI 알고리즘에 의해 영향받거나, 추적되거나, 분류되는 것을 피하기 위해 사용하는 방법을 의미합니다. 여기에는 지각 시스템에 대한 …
レートリミティング
Definition
レートリミティングは、AIサービスやAPIの乱用、過負荷、および過度なリソース消費から保護します。スループットを制限することでユーザー間の公平な利用を確保し、システムの安定性を維 …
노벨티 감지(새로운 패턴 감지)
Definition
노벨티 감지는 알려진 클래스나 예상되는 행동에 부합하지 않는 데이터 포인트를 식별하는 머신러닝 작업입니다. 일반적으로 비지도 방식으로 작동하여 정상적인 데이터 …
모국어 식별
Definition
모국어 식별(NLI)은 화자가 처음 습득한 언어를 인식하는 데 중점을 두는 자연어 처리의 하위 분야입니다. 일반적인 언어 감지와 달리 NLI는 화자의 언어적 특 …
부정확한 텍스트 (Inauthentic Text)
Definition
부정확한 텍스트는 AI 시스템이나 의도적인 기만 목적을 가진 인간이 생성한 글로, 진정한 인간의 경험이나 사실적 근거가 결여되어 있습니다. 여기에는 AI 생성 …
차등 프라이버시
Definition
차등 프라이버시는 쿼리 결과나 모델 매개변수에 보정된 통계적 노이즈를 추가하여 강력한 프라이버시 보장을 제공합니다. …
데이터 독성(Data Poisoning)
Definition
이 적대적 기법은 훈련 데이터를 변경하여 머신러닝 모델의 무결성을 훼손하는 것을 목표로 합니다. 공격자는 미묘한 오류나 편향된 예제를 도입하여 모델이 잘못된 패 …
사이버 보안
Definition
사이버 보안은 네트워크, 컴퓨터, 프로그램 및 데이터를 공격, 손상 또는 무단 접근으로부터 보호하도록 설계된 기술, 프로세스 및 관행을 포괄합니다. AI 맥락에 …
콘텐츠 근원(출처 증명)
Definition
콘텐츠 근원은 디지털 콘텐츠가 어디서 왔고, 어떻게 생성되었으며, 시간이 지남에 따라 누가 수정했는지에 대한 문서화와 검증을 의미합니다. AI의 맥락에서 이는 …
이상 탐지(Anomaly detection)
Definition
이상 탐지는 아웃라이어 탐지라고도 하며, 예상되는 동작에 적합하지 않은 패턴을 찾기 위해 데이터를 분석합니다. 사이버 보안, …
적대적 공격
Definition
적대적 공격은 이미지나 텍스트와 같은 입력에 미세한 노이즈를 도입하여 신경망의 취약점을 이용합니다. 이는 모델 출력에 심각한 오류를 유발하며, 모델의 보안성을 …
적대적 머신러닝
Definition
이 분야는 모델을 무너뜨리는 공격적 기술과 모델을 강화하는 방어적 전략을 모두 포함합니다. 적대적 예제를 사용하여 모델을 학습시키는 과정을 통해 회복력을 향상시 …
AI 보안 연구소(AI Security Institute)
Definition
AI 보안 연구소는 인공지능 기술과 관련된 위험을 완화하는 데 특화된 전문 기관입니다. 이러한 연구소는 적대적 공격(adversarial attacks)과 데이 …
프롬프트 인젝션
Definition
프롬프트 인젝션은 대용량 언어 모델(LLM)이 사용자 지시를 해석하는 방식을 악용하여, 입력 텍스트 내에 숨겨지거나 상충되는 지시를 삽입합니다. 이로 인해 모델 …
제일브레이크 (Jailbreak)
Definition
제일브레이킹은 AI 모델이 내장된 안전 지침을 무시하도록 속여 혐오 발언, …
연관 학습
Definition
연관 학습은 민감한 원시 데이터를 공유하지 않고도 조직들이 협력하여 AI 모델을 훈련할 수 있게 합니다. 정보를 중앙 집중식 저장소에 모으는 대신, …
딥페이크
Definition
딥페이크는 생성적 적대 신경망(GANs)이나 오토인코더(autoencoders)를 사용하여 생성되는 초현실적인 오디오 또는 비디오 조작물입니다. 이는 허위 정보 …
데이터 보호(Data Protection)
Definition
데이터 보호는 개인 및 독점 데이터를 침해와 오용으로부터 안전하게 지키기 위해 설계된 법적, 기술적, 조직적 조치를 포괄합니다. AI 분야에서는 암호화 구현, …
안전한(Safe)
Definition
AI의 안전성은 자동화된 시스템이 예측 가능하게 행동하고 의도하지 않은 부정적인 결과를 초래하지 않도록 보장하기 위해 제약 조건과 안전 장치를 구현하는 것을 포 …