GPT-2
term_id: gpt2
Category: basic_concepts
Definition
Generative Pre-trained Transformer 2 (GPT-2) este un model de limbaj autoregresiv care utilizează arhitectura Transformer pentru a genera text similar cu cel uman. A fost antrenat pe un set de date masiv de texte de pe internet.
Summary
GPT-2 este un model de limbaj bazat pe arhitectura Transformer, de mari dimensiuni, dezvoltat de OpenAI pentru generarea și înțelegerea textului.
Key Concepts
- Arhitectura Transformer
- Modelare Autoregresivă
- Procesarea Limbajului Natural
- Învățare Few-Shot
Use Cases
- Completarea și generarea de text
- Traducere automată
- Agensi conversaționali