GPT-2

term_id: gpt2

Category: basic_concepts

Definition

Generative Pre-trained Transformer 2 (GPT-2) ist ein autoregressives Sprachmodell, das die Transformer-Architektur nutzt, um menschenähnlichen Text zu generieren. Es wurde mit einem massiven Datensatz von Internettexten trainiert.

Summary

GPT-2 ist ein großes, auf Transformern basierendes Sprachmodell, das von OpenAI für die Textgenerierung und das Textverständnis entwickelt wurde.

Key Concepts

  • Transformer-Architektur
  • Autoregressive Modellierung
  • Verarbeitung natürlicher Sprache
  • Few-Shot-Learning

Use Cases

  • Textergänzung und -generierung
  • Maschinelle Übersetzung
  • Konversationale Agenten