BERT
term_id: bert
Category: basic_concepts
Definition
BERT este o tehnică de învățare automată bazată pe transformatori pentru preantrenarea în PNL, dezvoltată de Google. Aceasta utilizează modelarea limbajului mascat și predicția propoziției următoare pentru a învăța reprezentări bidirecționale ale textului.
Summary
BERT (Bidirectional Encoder Representations from Transformers) este un model preantrenat de procesare a limbajului natural.
Key Concepts
- Arhitectura Transformer
- Modelarea limbajului mascat
- Preantrenare
- Ajustare fină
Use Cases
- Sisteme de răspuns la întrebări
- Analiza sentimentelor
- Clasificarea textului