BERT

term_id: bert

Category: basic_concepts

Definition

BERT on Googlen kehittämä luonnollisen kielen käsittelyn (NLP) esikoulutusmenetelmä, joka perustuu muuntajiin (transformers). Se oppii kaksisuuntaisia esityksiä käyttämällä peitettyä kielimallintamista ja seuraavan lauseen ennustamista.

Summary

Bidirectional Encoder Representations from Transformers on esikoulutettu luonnollisen kielen käsittelymalli.

Key Concepts

  • Muuntaja-arkkitehtuuri
  • Peitetty kielimallintaminen
  • Esikoulutus
  • Hienosäätö

Use Cases

  • Kysymysten vastausjärjestelmät
  • Tunneanalyysi
  • Tekstiluokittelu