BERT
term_id: bert
Category: basic_concepts
Definition
BERT는 구글이 개발한 Transformer 기반의 NLP 사전 훈련 기계 학습 기법입니다. 마스킹 언어 모델링과 다음 문장 예측을 사용하여 양방향 표현을 학습합니다.
Summary
양방향 인코더 표현(Transformer)은 사전 훈련된 자연어 처리 모델입니다.
Key Concepts
- Transformer 아키텍처
- 마스킹 언어 모델링
- 사전 훈련
- 파인튜닝
Use Cases
- 질문 응답 시스템
- 감성 분석
- 텍스트 분류