BERT
term_id: bert
Category: basic_concepts
Definition
BERT je technika strojového učení založená na transformerech pro předtrénování v oblasti zpracování přirozeného jazyka (NLP), kterou vyvinula společnost Google. Využívá maskovaného jazykového modelování a predikce následující věty k učení se obousměrným reprezentacím textu.
Summary
Bidirectional Encoder Representations from Transformers je předtrénovaný model pro zpracování přirozeného jazyka.
Key Concepts
- Architektura Transformer
- Maskované jazykové modelování
- Předtrénování
- Doladění (Fine-tuning)
Use Cases
- Systémy odpovědí na otázky
- Analýza sentimentu
- Klasifikace textu