Maszk kitöltése
term_id: fill_mask
Category: basic_concepts
Definition
A maszk kitöltése egy alapvető előképzési célkitűzés, amelyet a BERT-hez hasonló, transzformátor-alapú modellekben használnak. A folyamat során a szövegszekvencia véletlenszerű tokenjeit maszkolják, és a modellt arra képezik, hogy megjósolja az eredeti tokeneket.
Summary
Egy természetes nyelvfeldolgozási feladat, ahol egy modell a szomszédos kontextus alapján megjósolja a hiányzó tokeneket egy mondatban.
Key Concepts
- Maszkolt nyelvi modellezés
- Kontextuális megértés
- Önvezérelt tanulás
- Token-előrejelzés
Use Cases
- Szövegkiegészítés
- Szemantikus szerepcímkézés
- Előképzési alap