제로샷 프롬프팅
Definition
제로샷 프롬프팅은 사전 훈련된 언어 모델에게 소수 예시(few-shot examples)를 제공하거나 추가적인 파인튜닝을 수행하지 않고도, 텍스트 기반 프롬프트 …
NLP
Terms tagged with NLP
WordPiece
Definition
WordPiece는 BERT와 ALBERT와 같은 자연어 처리 모델에서 널리 사용되는 토큰화 방법입니다. 이는 단어의 형태론적 풍부함을 관리하고 어휘 범위를 확 …
XLM-RoBERTa
Definition
XLM-RoBERTa(Cross-lingual Language Model RoBERTa)는 Meta AI에서 개발한 대규모 다국어 모델입니다. 100개 이상의 …
독성
Definition
AI에서의 독성은 경멸적이거나 토론에서 참여자를 이탈하게 만들 가능성이 높거나 특정 정체성에 초점을 맞춘 콘텐츠를 생성하거나 확산하는 것을 의미합니다. 이는 미 …
독성 감지
Definition
독성 감지는 자연어 처리 기술을 활용하여 텍스트 입력을 분석하고, 해로운 콘텐츠일 확률을 나타내는 확률 점수를 할당합니다. 이러한 시스템은 일반적으로 감독 학 …
텍스트 분류
Definition
텍스트 분류는 알고리즘이 구조화되지 않은 텍스트 데이터에 미리 정의된 카테고리들을 할당하는 지도 학습 작업입니다. 일반적인 기술로는 나이브 베이즈(Naive …
텍스트 생성
Definition
텍스트 생성은 인공지능 모델이 새로운 텍스트 콘텐츠를 만들어내는 자연어 처리의 기본 응용 패러다임입니다. 시퀀스에서 다음으로 올 가능성이 높은 토큰을 예측함으로 …
문장 유사도
Definition
문장 유사도는 두 개의 서로 다른 문장 간 의미적 중첩 정도를 측정합니다. 이는 단어 수준의 일치를 넘어 의미, 맥락, 의도를 이해하는 것을 목표로 합니다. 일 …
문장 트랜스포머
Definition
문장 트랜스포머는 전통적인 트랜스포머 모델(예: BERT)의 확장으로, 전체 문장에 대해 의미 있는 밀집 벡터 표현을 생성하도록 미세 조정됩니다. 표준 토큰 수 …
시퀀스 라벨링
Definition
시퀀스 라벨링은 주어진 입력 시퀀스(예: 문장의 단어 또는 문자열의 문자)의 모든 토큰에 범주형 레이블을 예측하는 과정입니다. 일반적인 응용 분야에는 품사 태 …
시맨틱 폴딩(Semantic folding)
Definition
시맨틱 폴딩은 복잡한 고차원 벡터 임베딩을 의미적 손실을 최소화하면서 더 다루기 쉬운 저차원 표현으로 압축하는 과정을 의미합니다. …
의미 분석(Semantic analysis)
Definition
문법적 구조를 넘어 언어 입력의 실제 의도와 중요성을 해석합니다. 이는 문맥에 따른 단어 의미의 모호성 해소(disambiguation), 엔티티 식별, …
큐웬3.5(Qwen3.5)
Definition
큐웬3.5는 알리바바 클라우드에서 개발한 큐웬 계보의 특정 릴리스를 나타냅니다. 이 버전은 일반적으로 이전 버전을 기반으로 논리적 추론, 코딩 숙련도, …
큐웜(Qwen)
Definition
큐웜(Qwen)은 알리바바 그룹의 통이 연구소에서 만든 고급 대규모 언어 모델 패밀리를 나타냅니다. 자연어 이해, 코드 생성, 논리적 추론 등 다양한 작업에 최 …
Pythia
Definition
Pythia는 EleutherAI가 만든 오픈소스 대규모 언어 모델(LLM) 시리즈로, 신경망의 해석 가능성과 동작을 연구하는 것을 목표로 합니다. 이 스위트에 …
OpenAI의 제품 및 애플리케이션
Definition
이 용어는 선도적인 인공지능 연구 실험실인 OpenAI가 만든 상업용 및 연구 제품을 포괄합니다. 주요 제품군에는 생성 사전 훈련형 트랜스포 …
교육용 에이전트
Definition
교육용 에이전트는 종종 가상 캐릭터로 구현되는 소프트웨어 구성 요소로, 교육 환경에서 교사나 튜터 역할을 수행합니다. 이러한 에이전트는 자연어 처리(NLP) …
Paraphrasing
Definition
자연어 처리에서의 Paraphrasing(의역/재기술)은 주어진 입력 텍스트의 원래 의미적 의미를 보존하면서 대체 표현을 생성하는 과정을 포함합니다. …
P-Tuning
Definition
P-Tuning(프롬프트 튜닝)은 최소한의 계산 비용으로 대규모 사전 훈련된 언어 모델을 특정 다운스트림 작업에 적응시키기 위해 설계된 기술입니다. 모든 모델 …
OCR(Optical Character Recognition)
Definition
광학 문자 인식(OCR)은 디지털 이미지 내의 텍스트를 식별하기 위해 이미지 처리 및 패턴 인식 알고리즘을 사용합니다. …
모국어 식별
Definition
모국어 식별(NLI)은 화자가 처음 습득한 언어를 인식하는 데 중점을 두는 자연어 처리의 하위 분야입니다. 일반적인 언어 감지와 달리 NLI는 화자의 언어적 특 …
다국어
Definition
다국어 모델은 각 언어별로 별도의 모델을 필요로 하지 않고 다양한 언어 입력을 처리하도록 설계되었습니다. 이러한 시스템은 일반적으로 공유 임베딩이나 교차 언어 …
마스크 생성
Definition
마스크 생성은 특정 작업 중 데이터 세트의 어떤 요소가 표시되거나 활성화될지를 결정하는 공간적 또는 시간적 마스크를 생성하는 것을 포함합니다. …
MAUVE
Definition
MAUVE는 생성형 언어 모델의 출력이 인간 언어 사용과 얼마나 밀접하게 유사한지 평가하도록 설계된 통계적 측정치입니다. 단순한 퍼플렉시티(perplexity) …
머신러닝 및 지식 추출
Definition
이 분야는 머신러닝 기법을 자연어 처리(NLP) 및 데이터 마이닝과 결합하여 원시 데이터를 실행 가능한 지식으로 변환합니다. 여기에는 엔티티 인식, 관계 추출, …
라이라(Lyra)
Definition
현대 AI 용어의 맥락에서 라이라는 자연어 처리를 통해 사용자 상호작용을 향상시키는 데 중점을 둔 특수화된 AI 시스템을 종종 나타냅니다. …
롱 컨텍스트(Long Context)
Definition
롱 컨텍스트는 트랜스포머 기반 모델이 표준 제한(예: 2k 또는 4k 토큰)을 종종 초과하는 광범위한 입력 길이를 처리할 수 있는 능력을 의미합니다. …
LLM-as-a-Judge
Definition
LLM-as-a-Judge는 대형 언어 모델이 다른 모델들의 출력 품질에 대한 자동 평가자 역할을 수행하는 평가 패러다임입니다. …
언어/행동 관점
Definition
발화 행위 이론과 화용론에 뿌리를 둔 이 관점은 요청, 약속, 명령과 같은 기능을 수행하는 발화의 방식을 강조합니다. 자연어 처리(NLP) 분야에서는 텍스트의 …
지식 그래프 임베딩
Definition
TransE나 DistMult와 같은 지식 그래프 임베딩 방법은 이산적인 그래프 구조를 저차원의 밀집 벡터로 변환합니다. 이를 통해 머신러닝 모델이 그래프 데이 …
지능형 단어 인식
Definition
지능형 단어 인식은 신경망에 의해 구동되는 고급 광학 문자 인식(OCR) 기술을 의미합니다. 이는 단순한 패턴 매칭을 넘어 문맥을 이해하고, 노이즈가 있는 이미 …
Gpt2
Definition
생성형 사전 훈련 변환기 2(GPT-2)는 트랜스포머 아키텍처를 사용하여 인간과 유사한 텍스트를 생성하는 자기회귀 언어 모델입니다. 이는 방대한 양의 인터넷 텍 …
GPT-5.6
Definition
GPT-5.6은 오픈AI의 대형 언어 모델 계보상에서 추측되거나 향후 출시될 버전을 지칭합니다. 구체적인 세부 사항은 개발 일정에 따라 다를 수 있으나, …
마스크 채우기
Definition
마스크 채우기는 BERT와 같은 트랜스포머 기반 모델에서 사용되는 기본 사전 학습 목적 함수입니다. …
ExBERT
Definition
ExBERT는 서로 다른 레이어에 걸쳐 개별 어텐션 헤드의 중요성을 분석하여 BERT 트랜스포머 모델에 대한 해석 가능성을 제공합니다. 이는 그래디언트 기반 귀 …
ELMo(Embeddings from Language Models)
Definition
ELMo는 대규모 코퍼스에서 훈련된 양방향 LSTM을 통해 입력 텍스트를 처리하여 문맥 민감한 단어 임베딩을 생성합니다. Word2Vec과 같은 정적 임베딩과 …
문서 분류
Definition
문서 분류는 알고리즘이 비정형 텍스트 데이터에 레이블을 할당하는 자연어 처리(NLP)의 기본 작업입니다. 이 과정에서는 문서에서 특징을 추출하고 이를 특정 클래 …
데이터셋: 야후 앵서스 토픽스
Definition
야후 앵서스 토픽스(Yahoo Answers Topics) 데이터셋은 더 큰 야후 앵서스 아카이브의 하위 집합으로, 명확한 주제 카테고리로 조직화된 질문과 답변 …
데이터셋: 위키백과
Definition
위키백과는 텍스트 형식으로 이용 가능한 인간 지식 중 가장 크고 포괄적인 컬렉션 중 하나입니다. 인공지능(AI) 분야에서 위키백과는 대규모 언어 모델을 사전 훈 …
데이터셋: TriviaQA
Definition
TriviaQA는 오픈 도메인 질문 답변을 위해 설계된 데이터셋으로, 100만 개 이상의 질문과 해당 답변을 특징으로 합니다. 기존 모델에 도전하기 위해 제작되 …
데이터셋: WikiHow
Definition
WikiHow 데이터셋은 WikiHow 웹사이트에서 수집된 약 6만 개의 매뉴얼 형식 기사로 구성됩니다. 이 데이터셋은 추출형(abstractive) 텍스트 요 …
데이터셋: S2ORC
Definition
S2ORC는 시맨틱 스칼라에서 파생된 학술 자료의 포괄적인 코퍼스입니다. 다양한 과학 분야에 걸쳐 수백만 편의 논문들에 대해 전체 텍스트 내용, 메타데이터, 그 …
데이터셋: 임베딩 데이터/Qqp
Definition
Quora Question Pairs(QQP)는 쿼라 플랫폼에서 가져온 40만 개 이상의 질문 쌍으로 구성된 이진 분류(Binary Classification) …
데이터셋: 임베딩 데이터/문장 압축
Definition
문장 압축 데이터셋은 대상 문장이 원천 문장의 축약된 버전인 쌍들로 구성됩니다. 이러한 쌍들은 중복 정보를 제거하면서도 핵심 의미를 유지하도록 설계됩니다. 이 …
데이터셋: BookCorpus
Definition
BookCorpus는 인터넷에서 수집한 10,000권 이상의 미출간 도서 텍스트 모음입니다. 이 데이터셋은 자연어 처리(NLP) 모델을 훈련하고 평가하기 위한 …
데이터셋: Embedding Data/Altlex
Definition
Altlex 데이터셋은 동일한 근본적인 의미를 공유하지만 서로 다른 어휘나 구문 구조를 사용하는 문장 쌍으로 구성됩니다. 주로 임베딩 모델 훈련에 활용됩니다. …
조건부 랜덤 필드 (Conditional Random Field)
Definition
조건부 랜덤 필드(CRF)는 자연어 처리 및 생물정보학 분야에서 일반적으로 사용되는 판별 모델 클래스입니다. 생성 모델과 달리 CRF …
계산적 유머
Definition
계산적 유머는 기계가 농담, 말장난, 재치 있는 발언 등을 생성하거나 해석하는 방법을 연구합니다. 이는 일반적으로 자연어 처리(NLP)를 활용하여 불일치, 의미 …
상식적 지식
Definition
상식적 지식은 인간이 자연스럽게 습득하는 일상생활, 물리학, 사회적 규범, 인과관계에 대한 방대한 암묵적 정보를 의미합니다. 인공지능(AI) 분야에서 이를 획득 …
문자 컴퓨팅
Definition
이 개념은 연산의 기본 단위가 단일 문자인 텍스트 조작에 중점을 둡니다. 철자 검사, 암호 해독, 손글씨 인식 등 세밀한 텍스트 분석이 필요한 작업에서 주로 사 …
블룸
Definition
역사적으로 벤자민 블룸의 교육 분류법을 지칭하지만, 현대 AI 맥락에서는 BigScience에서 개발한 블룸 텍스트 임베딩 모델을 주로 나타냅니다. 이 모델은 …
BERT
Definition
BERT는 구글이 개발한 Transformer 기반의 NLP 사전 훈련 기계 학습 기법입니다. 마스킹 언어 모델링과 다음 문장 예측을 사용하여 양방향 표현을 학 …
워드 뱅크 모델
Definition
이 자연어 처리 기법은 구문과 순서를 무시하고 텍스트를 단어의 다중 집합(multiset)으로 표현합니다. 이는 문서의 단어 빈도나 존재 여부에 기반하 …
자동 의료 비서(Automated Medical Scribe)
Definition
자동 의료 비서는 자연어 처리(NLP) 및 음성 인식 기술을 활용하여 의사-환자 대화를 듣고 구조화된 전자 건강 기록(EHR)을 작성합니다. 이 기술 …
ASR 완전 달성
Definition
ASR 완전 달성이라는 용어는 자동 음성 인식(ASR) …
비전-랭귀지 (시각-언어)
Definition
비전-랭귀지 모델은 종종 다중 모달 대규모 언어 모델(MLLMs)이라고 불리며, 컴퓨터 비전과 자연어 처리를 통합합니다. 이를 통해 AI는 이미지를 이해하고 텍 …
번역
Definition
AI에서의 번역은 신경 기계 번역(Neural Machine Translation)을 의미하며, 딥러닝 모델이 언어 간 의미 표현을 매핑합니다. 규칙 기반 시스 …
시맨틱 검색(Semantic Search)
Definition
시맨틱 검색은 단순한 키워드 매칭을 넘어 쿼리 뒤에 숨겨진 의도와 맥락적 의미를 해석합니다. 임베딩을 사용하여 텍스트를 고차원 공간의 벡터로 표현함으로 …
요약(Summarization)
Definition
텍스트 요약은 중요한 의미를 잃지 않고 대량의 텍스트를 짧은 버전으로 축소합니다. 추출 방식(Source에서 중요한 문장을 선택) 또는 생성 방 …
질문 응답
Definition
질문 응답(Question Answering, QA)은 주어진 문맥이나 지식베이스에서 사용자 쿼리에 대한 정확한 응답을 검색하거나 생성하는 과정입니다. 이는 특 …
위치 인코딩
Definition
트랜스포머는 RNN과 달리 시퀀스가 아닌 병렬로 모든 토큰을 처리하므로 토큰 순서에 대한 고유한 지식이 부족합니다. 위치 인코딩은 입력 임베딩에 특정 벡터를 추 …
명명된 개체 인식
Definition
명명된 개체 인식(Named Entity Recognition, NER)은 정보 추출의 하위 작업으로, 텍스트에서 명명된 개체를 찾아 사람 이름, 조직, 위치, …
임베딩 모델
Definition
이 모델들은 고차원 데이터를 저차원의 연속 벡터 공간으로 매핑하여, 유사한 항목들이 서로 더 가깝게 위치하도록 합니다. 이러한 변환은 의미론적 관계를 포착하여 …
디코더
Definition
시퀀스 투 시퀀스(sequence-to-sequence) 모델에서 디코더는 인코더가 생성한 컨텍스트 벡터를 입력받아 대상 출력을 단계별로 생성합니다. …
BPE(바이트 페어 인코딩)
Definition
바이트 페어 인코딩(BPE)은 낯선 단어(out-of-vocabulary)를 처리하기 위해 자연어 처리에 적용된 데이터 압축 기술입니다. 개별 문자로 구성된 어 …
자기지도학습
Definition
자기지도학습은 기계학습의 하위 분야로, 감독 신호가 수동 레이블링 없이 데이터 자체에서 자동으로 유도됩니다. 모델은 일반적으로 데이터의 구조를 활용하여 숨겨진 …
퓨샷(Few-shot)
Definition
퓨샷 학습은 머신러닝 모델이 매우 제한된 데이터(일반적으로 클래스당 1~10개 예제)로부터 일반화할 수 있도록 합니다. 수천 개의 레이블이 필요한 전통적인 지도 …
토큰
Definition
토큰은 자연어 처리(NLP)에서 입력 데이터의 핵심 구성 요소로, 일반적으로 단어, 부분 단어(subword), 또는 문자를 나타냅니다. 대규모 언어 모 …
토큰화
Definition
토큰화는 구조화되지 않은 텍스트를 모델이 섭취하기 적합한 구조화된 데이터로 변환하는 자연어 처리(NLP)의 중요한 전처리 단계입니다. 이는 문장을 여러 단위로 …
트랜스포머
Definition
‘Attention Is All You Need’ 논문에서 소개된 트랜스포머 아키텍처는 자연어 처리 및 그 이상의 분야를 혁신했습니다. 이 …
시맨틱(Semantic)
Definition
AI에서의 시맨틱 분석은 표면적인 패턴뿐만 아니라 입력의 근본적인 의미를 이해하는 데 중점을 둡니다. 이는 단어나 기호를 개념으로 매핑하고, …
프롬프트
Definition
프롬프트는 대규모 언어 모델(Large Language Models) 및 기타 생성형 AI 시스템과 상호작용하는 주요 인터페이스 역할을 합니다. 이는 모델의 출 …
게시물
Definition
디지털 통신 및 AI 데이터 컨텍스트에서 ‘게시물(post)‘은 온라인으로 공유되는 콘텐츠의 개별 단위를 의미합니다. 이는 자연어 처리 모 …
사전 학습
Definition
사전 학습(pre-training)은 딥러닝의 기초 기술로, 모델이 레이블이 없는 방대한 양의 데이터로부터 광범위한 특징과 패턴을 학습하는 과정을 말합니다. …
멀티 헤드 어텐션(Multi-Head Attention)
Definition
멀티 헤드 어텐션은 표준 어텐션 메커니즘을 서로 다른 학습된 선형 투영(linear projections)을 사용하여 병렬로 여러 번 실행함으로써 이를 확장합니 …
자연어 처리(Natural Language Processing)
Definition
자연어 처리(NLP)는 인공 지능의 하위 분야로, 계산 언어학과 통계적, 기계 학습 및 딥러닝 모델을 결합합니다. 이를 통해 기계는 텍스트나 음성 형태의 인간 …
롱(Long)
Definition
AI 맥락에서 ‘롱’은 종종 긴 문서나 길이가 긴 비디오 스트림과 같은 광범위한 입력을 처리하는 능력을 설명합니다. 대규모 언어 모델의 경 …
대규모 언어 모델
Definition
대규모 언어 모델(LLM)은 트랜스포머 아키텍처를 기반으로 한 고급 인공지능 시스템으로, 방대한 양의 텍스트 및 코드 데이터셋으로 학습됩니다. …
계층적(Hierarchical)
Definition
계층적 AI 시스템은 정보나 제어를 중첩된 계층의 트리 구조로 조직합니다. 강화 학습(Hierarchical RL) …
대신(Instead)
Definition
기술적인 AI 알고리즘 용어는 아니지만, 프롬프트 엔지니어링과 자연어 이해(NLU)에서 ‘instead’는 중요합니다. 이는 절 사이의 대 …
생성
Definition
인공지능에서 생성은 특히 GAN(생성 적대 신경망)이나 트랜스포머 기반 LLM과 같은 모델이 텍스트, 이미지 등 새로운 콘텐츠를 생산할 수 있는 능력을指합니다. …
문맥 (Context)
Definition
자연어 처리(NLP)에서 문맥은 대명사나 관용구를 이전 문장을 바탕으로 이해하는 등 모호성을 해결하는 데 필수적입니다. 트랜스포머(Transformer) …
임베딩
Definition
임베딩은 기하학적 공간에서 의미적 관계가 보존되는 데이터의 밀집 벡터 표현입니다. 범주형이거나 고차원적인 입력을 고정 길이의 벡터로 변환함으로써 모델은 이러한 …
어텐션 메커니즘
Definition
어텐션 메커니즘은 모델이 입력 시퀀스 내의 서로 다른 요소들의 중요도를 동적으로 가중치 부여할 수 있게 합니다. 모든 입력 데이터를 동일하게 취급하는 대신, 어 …