BERT
term_id: bert
Category: basic_concepts
Definition
BERT är en maskininlärningsteknik baserad på transformers för förträning inom NLP, utvecklad av Google. Den använder maskerad språkmodellering och nästa mening-prediktion för att lära sig tvåvägsrepresentationer från textdata.
Summary
Bidirectional Encoder Representations from Transformers är en förtränad modell för bearbetning av naturligt språk.
Key Concepts
- Transformerarkitektur
- Maskerad språkmodellering
- Förträning
- Finjustering
Use Cases
- Frågesvarsystem
- Stämningsanalys
- Textklassificering