Gpt2

term_id: gpt2

Category: basic_concepts

Definition

Generative Pre-trained Transformer 2 (GPT-2) är en autoregressiv språkmodell som använder transformerarkitekturen för att generera mänskliknande text. Den tränades på ett enormt datamängd med internet-text.

Summary

GPT-2 är en stor språkmodell baserad på transformerarkitektur, utvecklad av OpenAI för textgenerering och förståelse.

Key Concepts

  • Transformerarkitektur
  • Autoregressiv modellering
  • Bearbetning av naturligt språk
  • Few-shot learning

Use Cases

  • Textkomplettering och -generering
  • Maskinöversättning
  • Konversationsagenter