Maske Doldurma
term_id: fill_mask
Category: basic_concepts
Definition
Maske Doldurma, BERT gibi dönüştürücü tabanlı modellerde kullanılan temel bir ön eğitim hedefidir. Süreç, metin dizisindeki rastgele token’ları maskeleyip modeli orijinal değerlerini tahmin etmeye eğitmeyi içerir.
Summary
Bir modelin, cümle içindeki eksik token’ları çevreleyen bağlama dayanarak tahmin ettiği doğal dil işleme görevi.
Key Concepts
- Maskelenmiş Dil Modelleme
- Bağlamsal Anlama
- Öz-Denetimli Öğrenme
- Token Tahmini
Use Cases
- Metin tamamlama
- Anlamsal rol etiketleme
- Ön eğitim temeli