Bert

term_id: bert

Category: basic_concepts

Definition

BERT er en transformer-baseret maskinlæringsmetode til fortræning af naturlig sprogbehandling (NLP), udviklet af Google. Den bruger maskeret sprogmodellering og næste sætningsprediktion til at lære bidirektionale repræsentationer fra teksten.

Summary

Bidirectional Encoder Representations from Transformers er en fortrænet naturlig sprogbehandlingsmodel.

Key Concepts

  • Transformerarkitektur
  • Maskeret sprogmodellering
  • Fortræning
  • Finjustering

Use Cases

  • Spørgsmål-svar-systemer
  • Sætningssanalyse
  • Tekstklassificering