GPT-2
term_id: gpt2
Category: basic_concepts
Definition
Generative Pre-trained Transformer 2 (GPT-2) adalah model bahasa autoregresif yang menggunakan arsitektur transformator untuk menghasilkan teks mirip manusia. Model ini dilatih pada dataset internet yang sangat masif.
Summary
GPT-2 adalah model bahasa berbasis transformator skala besar yang dikembangkan oleh OpenAI untuk generasi dan pemahaman teks.
Key Concepts
- Arsitektur Transformator
- Pemodelan Autoregresif
- Pemrosesan Bahasa Alamiah
- Pembelajaran Few-Shot
Use Cases
- Penyelesaian dan generasi teks
- Terjemahan mesin
- Agen percakapan