Gpt2

Definition

Generative Pre-trained Transformer 2 (GPT-2) è un modello linguistico autoregressivo che utilizza l’architettura transformer per generare testo simile a quello umano. È stato addestrato su un enorme dataset di testi internet

Summary

GPT-2 è un modello linguistico su larga scala basato su transformer, sviluppato da OpenAI per la generazione e la comprensione del testo.

Key Concepts

• Architettura Transformer
• Modellazione Autoregressiva
• Elaborazione del Linguaggio Naturale
• Apprendimento Few-Shot

Use Cases

• Completamento e generazione di testo
• Traduzione automatica
• Agenti conversazionali

Related Terms

• LLM (Large Language Model / Grande Modello Linguistico)
• BERT (Bidirectional Encoder Representations from Transformers)
• Attention Mechanism (Meccanismo di Attenzione)
• Tokenization (Tokenizzazione)