GPT-2

term_id: gpt2

Category: basic_concepts

Definition

Generative Pre-trained Transformer 2 (GPT-2) on autoregressiivinen kielimalli, joka käyttää muunnosarkkitehtuuria luodakseen ihmisen kaltaista tekstiä. Sitä on koulutettu valtavalla internettekstidatajoukolla.

Summary

GPT-2 on OpenAI:n kehittämä suuri, muunnospohjainen kielimalli tekstin tuottamista ja ymmärtämistä varten.

Key Concepts

  • Muunnosarkkitehtuuri
  • Autoregressiivinen mallinnus
  • Luonnollisen kielen käsittely
  • Vähäisen esimerkin oppiminen

Use Cases

  • Tekstin täydentäminen ja generointi
  • Konekäännös
  • Keskusteluagentit