Bert

term_id: bert

Category: basic_concepts

Definition

BERT is een op transformers gebaseerde machine learning-techniek voor het voorspellen van natuurlijke taal, ontwikkeld door Google. Het gebruikt gemaskeerde taalmodellering en voorspelling van de volgende zin om bidirectionele representaties te leren.

Summary

Bidirectional Encoder Representations from Transformers is een voorgeprogrammeerd model voor natuurlijke taalverwerking.

Key Concepts

  • Transformerarchitectuur
  • Gemaskerde taalmodellering
  • Voortrainen
  • Fijnafstemmen

Use Cases

  • Vraag-en-antwoordsystemen
  • Sentimentanalyse
  • Tekstclassificatie