BERT

term_id: bert

Category: basic_concepts

Definition

BERT er en maskinlæringsmetode basert på transformers for forhåndstrening av naturlig språkbehandling (NLP), utviklet av Google. Den bruker maskert språkmodellering og neste setningsprediksjon for å lære todrettede representasjoner fra teksten.

Summary

Bidirectional Encoder Representations from Transformers er en forhåndstrent modell for naturlig språkbehandling.

Key Concepts

  • Transformerarkitektur
  • Maskert språkmodellering
  • Forhåndstrening
  • Finjustering

Use Cases

  • Spørsmålsbesvarelsessystemer
  • Stemningsanalyse
  • Tekstklassifisering