Bert
term_id: bert
Category: basic_concepts
Definition
BERT adalah teknik pembelajaran mesin berbasis transformer untuk pra-pelatihan NLP yang dikembangkan oleh Google. BERT menggunakan pemodelan bahasa tersembunyi dan prediksi kalimat berikutnya untuk mempelajari representasi dua arah.
Summary
Representasi Enkoder Dua Arah dari Transformer adalah model pemrosesan bahasa alami yang telah dilatih sebelumnya.
Key Concepts
- Arsitektur Transformer
- Pemodelan Bahasa Tersembunyi
- Pra-pelatihan
- Penalaan Halus
Use Cases
- Sistem Jawaban Pertanyaan
- Analisis Sentimen
- Klasifikasi Teks