GPT-2
term_id: gpt2
Category: basic_concepts
Definition
Generativní předtrénovaný transformátor 2 (GPT-2) je autoregresní jazykový model, který využívá architekturu transformátoru k generování lidsky působícího textu. Byl trénován na obrovské sadě dat z internetu.
Summary
GPT-2 je velká jazyková model založená na architektuře transformátorů, vyvinutá společností OpenAI pro generování a porozumění textu.
Key Concepts
- Architektura transformátoru
- Autoregresní modelování
- Zpracování přirozeného jazyka
- Učení s několika příklady (few-shot learning)
Use Cases
- Doplňování a generování textu
- Automatický překlad
- Konverzační agenti