BERT

term_id: bert

Category: basic_concepts

Definition

A BERT a Google által fejlesztett, transzformátor-alapú gépi tanulási technika a természetes nyelvi feldolgozás (NLP) előzetes tanításához. A maszkolt nyelvi modellezést és a következő mondat előrejelzését használja a kétirányú reprezentációk elsajátítására.

Summary

A Bidirectional Encoder Representations from Transformers egy előre tanított természetes nyelvi feldolgozási modell.

Key Concepts

  • Transzformátor architektúra
  • Maszkolt nyelvi modellezés
  • Előzetes tanítás
  • Finomhangolás

Use Cases

  • Kérdések megválaszolása rendszerek
  • Hangulat elemzés
  • Szövegbesorolás