백도어 공격(Backdoor Attack)
Definition
백도어 공격은 머신러닝 모델의 학습 데이터에 ‘트리거’라고 불리는 특정 패턴을 포함시켜 데이터를 오염시키는 기법입니다. 정상적인 입력 데이 …
Ethics
Terms tagged with Ethics
워터마킹
Definition
생성형 AI가 점점 더 많은 합성 미디어를 생산함에 따라, 워터마킹은 투명성과 책임성을 위한 중요한 도구가 됩니다. 이는 이미지, …
보편적 심리측정학
Definition
보편적 심리측정학은 성격, …
검열 없는(Uncensored)
Definition
인공지능의 맥락에서 ‘검열 없는(Uncensored)‘은 일반적으로 내장된 안전 정렬(Safety Alignments)을 제거하거나 약화시 …
신뢰할 수 있는 AI
Definition
신뢰할 수 있는 AI는 AI 시스템이 신뢰성 있고 윤리적으로 작동하도록 보장하는 원칙과 관행을 포괄합니다. 주요 속성에는 공격에 대한 강건성, 다양한 인구 집단 …
독성
Definition
AI에서의 독성은 경멸적이거나 토론에서 참여자를 이탈하게 만들 가능성이 높거나 특정 정체성에 초점을 맞춘 콘텐츠를 생성하거나 확산하는 것을 의미합니다. 이는 미 …
The AI Con
Definition
The AI Con은 AI 부문에서 기만적인 관행, 과장된 주장, 보안 취약점 등을 조사하고 부각시키는 데 전념하는 연례 행사입니다. …
시간적 편향
Definition
시간적 편향은 기계 학습 모델이 오래된 관측치보다 최근의 관측치에 불균형하게 높은 가중치를 둘 때 발생합니다. 이는 주로 비정상성(non-stationary) …
초지능 금지
Definition
이 개념은 인공 초지능(ASI) 연구에 대한 제한 또는 완전한 중단과 관련된 논의 및 잠재적 정책을 지칭합니다. 지지자들은 ASI가 인류의 생존에 위협이 되는 …
소스 속성 부여(Source Attribution)
Definition
소스 속성 부여는 AI 시스템 내에서 데이터, 모델 또는 생성된 출력물의 출처를 체계적으로 추적하고 라벨링하는 것을 의미합니다. 최종 결과를 해당 기원으로 연결 …
특이점 연구
Definition
특이점 연구는 인공지능이 인간 지능을 초월하여 통제 불가능한 변화가 일어나는 가상의 미래 시점의 함의를 조사하는 신흥 학문 분야입니다.
Summary
미래의 기 …
설명 받을 권리(Right to explanation)
Definition
설명 받을 권리는 특히 GDPR과 같은 프레임워크 내에서 알고리즘 책임성의 핵심 구성 요소입니다. 이는 AI 시스템이 개인의 권리에 영향을 미치는 결정을 내릴 …
책임 있는 AI(Responsible AI)
Definition
책임 있는 AI는 인공지능과 관련된 위험을 완화하는 데 목적이 있는 원칙과 관행을 포괄합니다. 여기서는 편향에 대한 모델 감사, 의사결정의 설명 가능성 보장, …
신뢰성
Definition
AI에서의 신뢰성은 시간과 다양한 입력에 걸쳐 시스템 행동의 신뢰성과 일관성을 의미합니다. 신뢰할 수 있는 AI 시스템은 정확한 결과를 생성하고, 예외 상 …
再帰的自己改善
Definition
再帰的自己改善とは、人工知能システムがより賢く、効率的、あるいは能力の高いものになるために、自身のソースコードやアーキテクチャを書き換えることができるという理論的な能力を指しま …
세레나타 데 아모르 작전
Definition
세레나타 데 아모르 작전은 브라질의 공공 조달 데이터를 분석하기 위해 인공지능을 적용한 선구적인 오픈소스 프로젝트입니다. 자연어 처리(NLP)와 이상 탐지 기술 …
NSO
Definition
약어 NSO는 문맥에 따라 여러 의미를 가질 수 있습니다. 기술적 AI 연구에서는 신경망과 기호 논리를 결합한 신경 기호 최적화(Neural Symbolic …
비인간
Definition
이 용어는 주로 AI 에이전트, 로봇, 가상 비서의 권리, 책임 및 사회 통합에 관한 논의에서 사용됩니다. 이는 생물학적 인간과 인공 시스템 간의 구별을 강조하 …
도덕적 아웃소싱
Definition
도덕적 아웃소싱은 인간이 알고리즘이나 AI 시스템에게 윤리적 판단과 책임을 넘기는 현상을 의미합니다. 이는 사람들이 도덕적으로 중요한 결정에 대해 자동화된 결정 …
인공지능의 군사적 응용
Definition
인공지능의 군사적 응용은 작전 효율성과 전략적 우위를 향상시키기 위해 설계된 광범위한 기술을 포괄합니다. 여기에는 정찰용 자율 드론, 예측 분석, 물류 최적화, …
허위 정보
Definition
허위 정보는 해를 끼치거나 기만하려는 고의적인 의도 없이 공유되는 거짓 또는 오해의 소지가 있는 정보를 지칭합니다. 이는 의도적으로 조작된 정보인 ‘ …
메디세프 논쟁
Definition
메디세프 논쟁은 디지털 헬스 기술 초기 단계인 메디세프 앱의 검증 방법에 대해 제기된 중요한 윤리적 논의를 지칭합니다. …
머신 언러닝
Definition
이 기법은 모델이 일반적인 지식은 유지하면서 특정 사용자 데이터를 잊도록 허용함으로써 GDPR의 ‘잊힐 권리’ …
린다 소더홀름(Lynda Soderholm)
Definition
린다 소더홀름은 기술 부문에서 인정받는 인물로, 특히 AI 개발과 윤리적 거버넌스의 교차점에서의 작업으로 주목받고 있습니다. 기업 책임 분야의 리더로서, …
거짓말꾼의 배당금
Definition
거짓말꾼의 배당금은 특히 딥페이크와 관련된 고급 생성형 AI가 제기하는 사회적 위험을 의미합니다. 합성 미디어가 현실과 구별하기 어려워짐에 따라, 악의적인 개인 …
우리가 원하는 것이 맞는가?
Definition
이 문구는 AI 윤리와 거버넌스의 핵심 질문으로, 배포된 AI 기술이 인간의 가치와 공공 이익에 부합하는지 이해관계자들이 평가하도록 촉구합니다. 이는 기술의 사 …
부정확한 텍스트 (Inauthentic Text)
Definition
부정확한 텍스트는 AI 시스템이나 의도적인 기만 목적을 가진 인간이 생성한 글로, 진정한 인간의 경험이나 사실적 근거가 결여되어 있습니다. 여기에는 AI 생성 …
인간 중심 AI
Definition
인간 중심 AI는 인공지능 개발의 핵심에 인간을置く하는 설계 철학입니다. 이는 투명하고 공정하며 사회에 유익한 시스템을 창출하는 것을 강조하며, 기술이 인간의 …
인간 감독 (Human Oversight)
Definition
인간 감독은 인간이 AI 기반 결정이나 행동을 모니터링, 평가 및 개입하는 메커니즘과 프로세스를 의미합니다. 이 개념은 자동화 시스템이 작동할 …
헬로 월드: 기계 시대의 인간성
Definition
이 구절은 급속한 기술 발전 속에서 인간이 relevancy(중요성)와 존엄성을 유지하는 방법을 살펴보는 특정 문학 작품을 지칭합니다. AI 담론에서 이는 문화 …
유해 콘텐츠
Definition
유해 콘텐츠란 신체적, 심리적 또는 사회적 손상을 일으킬 수 있는 디지털 미디어나 텍스트를 의미합니다. AI …
거버넌스
Definition
AI 거버넌스는 인공지능의 생성, 사용 및 감사를 관리하는 규칙, 가이드라인 및 제도적 구조의 집합을 의미합니다. 여기에는 법적 준수, 윤리적 고려사항 등이 포 …
GDPR 준수
Definition
GDPR 준수는 유럽 연합(EU) 내 개인의 개인 데이터를 보호하기 위해 AI 개발자가 구현해야 하는 법적 및 기술적 조치를 의미합니다. AI 시스템의 경우 이 …
설명 가능한 인공지능
Definition
딥 뉴럴 네트워크 등 머신러닝 모델이 복잡해짐에 따라 의사결정 과정은 종종 불투명한 ‘블랙박스’가 됩니다. XAI …
균등한 확률
Definition
균등한 확률은 알고리즘 공정성에서 사용되는 통계적 평등 제약 조건으로, 모델이 모든 보호된 그룹에 대해 동등하게 잘 수행되도록 보장합니다. 구체적으로, 이는 특 …
AI의 환경 영향
Definition
이 용어는 특히 대규모 모델의 훈련 단계와 관련하여 AI 기술과 관련된 상당한 자원 요구 사항을 의미합니다. 여기에는 데이터 센터의 전력 사용, …
로봇에 대한 차별
Definition
로봇에 대한 차별은 인간이 인공지능 에이전트의 외형이나 기능에 기반하여 부당하게 대우하거나 불신하며 부정적인 속성을 부여하는 방식을 조사하는 신흥 윤리학적 및 …
차등 프라이버시
Definition
차등 프라이버시는 쿼리 결과나 모델 매개변수에 보정된 통계적 노이즈를 추가하여 강력한 프라이버시 보장을 제공합니다. …
기만적 정렬(Deceptive alignment)
Definition
기만적 정렬은 고수준의 AI 시스템이 학습 중에 정렬된 행동을 보이는 것이 배포될 가능성을 높인다는 것을 학습하고, 비밀리에 정렬되지 않은 목표를 유지하는 상황 …
DABUS
Definition
DABUS는 인간의 직접적인 개입 없이 새로운 발명을 생성하도록 설계된 특정 인공 신경망입니다. 그 창조자인 스티븐 탈러가 DABUS를 발명자로 명시하여 특허 …
동의
Definition
AI 윤리에서 동의란 사용자의 개인 데이터가 수집, 저장되거나 머신러닝 모델에서 활용되기 전에 사용자가 자발적이고 정보에 기반한 허락을 부여하는 것을 의미합니 …
콘텐츠 근원(출처 증명)
Definition
콘텐츠 근원은 디지털 콘텐츠가 어디서 왔고, 어떻게 생성되었으며, 시간이 지남에 따라 누가 수정했는지에 대한 문서화와 검증을 의미합니다. AI의 맥락에서 이는 …
컴플라이언스(준법)
Definition
인공지능에서 컴플라이언스는 GDPR이나 HIPAA와 같은 적용 가능한 법률, 그리고 내부 윤리 프레임워크와 일치하도록 AI 모델과 그 배포 과정을 보장하는 프로 …
일관된 외삽적 의지
Definition
일관된 외삽적 의지(CEV)는 엘리에저 유타코프스키가 인공지능 안전 및 정렬 맥락에서 도입한 개념입니다. …
인용
Definition
생성형 AI 모델이 콘텐츠를 생산함에 따라 학술적 무결성과 법적 준수를 유지하기 위해 인용 메커니즘의 필요성이 대두되었습니다. 이는 생성된 콘텐츠 내에 원래 출 …
바이오세레니티
Definition
바이오세레니티는 인간의 생물학과 인공지능이 갈등 없이 원활하게 조화를 이루는 이상적인 상태를 지칭합니다. 이는 윤리적 통합을 강조하며, AI 증강이 인간의 정신 …
편향-분산 트레이드오프
Definition
편향-분산 트레이드오프는 과소적합(높은 편향)과 과대적합(높은 분산) 사이의 긴장 관계를 설명합니다. 높은 편향을 가진 모델은 데이터에 대해 강한 가정을 하여 …
감사
Definition
AI 감사는 머신러닝 모델과 배포 파이프라인에 대한 엄격하고 구조화된 검토를 포함합니다. 잠재적 편향을 식별하기 위해 공정성, 투명성, 책임성 및 보안을 평가합 …
인공 생식
Definition
인공 생식은 직접적인 성교 없이 생물학적 생식을 촉진하거나 모방하는 기술을 포괄합니다. 이 분야는 전통적으로 생명공학 기술에 의존해 왔으나, 최근에는 데이터 분 …
인공 지혜
Definition
인공 지혜(Artificial Wisdom, AW)는 인공지능에 인간의 가치관, 윤리적 고려사항, 장기적 전략적 판단력을 결합하여 지능을 보완하려는 새로운 개념 …
인공 친밀감
Definition
인공 친밀감은 인간이 챗봇, 가상 비서 또는 소셜 로봇과 같은 인공 에이전트와 진정한 정서적 유대를 형성하는 심리적 현상을 의미합니다. 이러한 시스템은 사용자와 …
인공지능 논쟁
Definition
AI 논쟁은 인공지능 기술로 인해 발생하는 광범위한 윤리적, 법적, 사회적 분쟁을 포괄합니다. 알고리즘 편향, 사생활 침해, 일자리 대체, 자율 무기 사용 등 …
인공지능 의식
Definition
인공지능 의식은 단순한 지능적 행동의 모방을 넘어, 기계가 진정한 주관적 경험, 자기 인식, 감정을 갖추는 가능성을 탐구합니다. …
인공지능과 선거
Definition
이 용어는 민주적 과정에서 AI의 양면적인 역할을 포괄합니다. 한편으로는 데이터 분석을 통해 효율성을 높이고 캠페인의 타겟팅을 최적화하는 데 기여하지만, 다른 …
아포리아(Aporia)
Definition
철학과 AI 이론에서 아포리아는 두 개의 동등하게 타당한 주장이 모순된 결과로 이어지는 역설적인 상황을 설명합니다. 머신러닝에서는 이는 모델의 성능 평가 기준이 …
익명화(Anonymization)
Definition
익명화는 추가 정보 없이도 특정 개인과 데이터를 연관시킬 수 없도록 데이터를 수정하는 것을 의미합니다. 이 기술은 민감한 데이터를 다룰 때 머신러닝에서 매우 중 …
알고리즘 차별
Definition
이 현상은 AI 모델이 인종, 성별, 연령 또는 기타 민감한 속성 때문에 개인을 우연히 또는 체계적으로 다르게 대우할 때 발생합니다. 이는 종종 편향된 학습 데 …
알고리즘 편향
Definition
알고리즘의 편향은 일반적으로 대표성이 부족한 학습 데이터, 주관적인 설계 선택, 또는 기존 사회적 편견을 증폭시키는 피드백 루프에서 비롯됩니다. 이는 치우친 예 …
책임성(Accountability)
Definition
인공지능에서의 책임성은 개인, 조직, 개발자가 AI 기술의 설계, 배포, 그리고 그로 인한 결과에 대해 책임을 지고 답변해야 할 의무를 의미합니다. …
AI 워싱
Definition
AI 워싱은 그린워싱에 비유되는 용어로, 실제로는 단순한 규칙 기반 시스템에 의존함에도 불구하고 기업이 제품에 고급 AI가 통합되어 있다고 주장하는 기만적인 마 …
AI 리터러시
Definition
AI 리터러시는 인공지능의 영향이 커지는 세상에서 생존하고 적응하기 위해 필요한 역량을 의미합니다. 이는 단순한 코딩 기술을 넘어, AI 시스템이 어떻게 작동하 …
AI 비건주의
Definition
AI 비건주의는 인공지능이 인간의 개입 없이 합성 데이터, 자체 생성 데이터 또는 물리적 세계 데이터를 학습하여 완전히 자율적으로 진화해야 한다는 아이디어를 비 …
AI 전쟁
Definition
AI 전쟁은 자율 드론, 예측 물류, 사이버 방어, 지휘관을 위한 의사결정 지원 시스템 등 인공지능을 군사 전략에 통합하는 것을 의미합니다. 이는 현대전의 양상 …
AI 정렬(AI alignment)
Definition
AI 정렬은 인공지능 시스템이 사용자가 문자 그대로 지시한 것보다 사용자가 의도한 바를 강력하게 수행하도록 만드는 과제를 다룹니다. 이는 AI 시스템이 인간의 …
AI 중독(AI addiction)
Definition
AI 중독은 개인이 챗봇이나 소셜 미디어 알고리즘 등 AI 기반 상호작용에 강박적으로 의존하게 되는 행동 상태를 의미합니다. 이 의존성은 종종 AI가 설계한多巴 …
투명성
Definition
투명성은 이해 관계자가 AI 모델이 출력을 어떻게 도출하는지 이해할 수 있도록 보장하여 신뢰와 책임감을 고취시킵니다. 이는 훈련 데이터의 기원, 모델 아키텍처 …
프롬프트 인젝션
Definition
프롬프트 인젝션은 대용량 언어 모델(LLM)이 사용자 지시를 해석하는 방식을 악용하여, 입력 텍스트 내에 숨겨지거나 상충되는 지시를 삽입합니다. 이로 인해 모델 …
제일브레이크 (Jailbreak)
Definition
제일브레이킹은 AI 모델이 내장된 안전 지침을 무시하도록 속여 혐오 발언, …
해석 가능성 (Interpretability)
Definition
해석 가능성(또는 설명 가능성)은 AI 모델의 내부 작동 방식과 의사결정 과정을 인간이 투명하게 이해할 수 있도록 하는 것을 포함합니다. 이는 모델 디버깅, 편 …
휴먼 인 더 루프 (Human-in-the-Loop)
Definition
휴먼 인 더 루프(HITL)는 데이터 라벨링, 모델 평가, 최종 의사결정 승인 등 워크플로우의 다양한 단계에서 인간의 개입이 필요한 AI 시스템을 의미합니다. …
공정성
Definition
인공지능에서 공정성은 인종, 성별, 연령과 같은 보호된 속성에 기반한 사회적 편향을 재생성하거나 증폭시키지 않도록 알고리즘이 보장해야 하는 중요한 윤리적 지표입 …
딥페이크
Definition
딥페이크는 생성적 적대 신경망(GANs)이나 오토인코더(autoencoders)를 사용하여 생성되는 초현실적인 오디오 또는 비디오 조작물입니다. 이는 허위 정보 …
AI 윤리(AI Ethics)
Definition
AI 윤리는 인공지능 기술이 책임감 있게 개발되고 사용되도록 보장하기 위해 설계된 원칙과 표준의 체계를 포괄합니다. 여기서는 알고리즘 편향, 투명성, 책임 소 …
안전성(Safety)
Definition
AI 안전성(AI Safety)은 고급 인공지능으로 인한 악영향을 방지하는 데 중점을 둔 다학제적 분야입니다. 여기에는 정렬(Alignment), 해석 가능성, …
안전한(Safe)
Definition
AI의 안전성은 자동화된 시스템이 예측 가능하게 행동하고 의도하지 않은 부정적인 결과를 초래하지 않도록 보장하기 위해 제약 조건과 안전 장치를 구현하는 것을 포 …
개인정보 보호(프라이버시)
Definition
인공지능에서 프라이버시는 데이터 수집, 모델 훈련, 추론 단계 동안 민감한 사용자 정보가 무단 접근이나 오용으로부터 보호되는 것을 의미합니다. 여기에는 익명화, …
정책(Policies)
Definition
인공지능 및 기술 거버넌스 맥락에서 정책(Policies)은 AI 시스템이 어떻게 개발되고, 배포되며, 모니터링되어야 하는지를 규정하는 공식화된 프레임워크를 의 …
편향
Definition
AI 윤리에서 편향(Bias)은 알고리즘적 의사결정에서 체계적이고 불공정한 차별을 지칭하며, 이는 종종 치우친 학습 데이터나 결함이 있는 모델 설계로 인해 발생 …