Gpt2

term_id: gpt2

Category: basic_concepts

Definition

Generative Pre-trained Transformer 2 (GPT-2) é um modelo de linguagem autoregressivo que utiliza a arquitetura transformer para gerar texto semelhante ao humano. Foi treinado em um conjunto de dados massivo de textos da internet.

Summary

O GPT-2 é um modelo de linguagem baseado em transformador de grande escala desenvolvido pela OpenAI para geração e compreensão de texto.

Key Concepts

  • Arquitetura Transformer
  • Modelagem Autoregressiva
  • Processamento de Linguagem Natural
  • Aprendizado Few-Shot

Use Cases

  • Completar e gerar texto
  • Tradução automática
  • Agentes conversacionais