Grok 1

term_id: grok_1

Category: basic_concepts

Definition

Grok-1 er den første lanseringen fra xAI, utgitt i november 2023. Det er en decoder-only-transformerbaseret stor språkmodell med omtrent 33 milliarder parametere. Modellen bruker en Mixture-of-Experts (MoE)-arkitektur, noe som gjør den effektiv og skalerbar.

Summary

Den første versjonen av Grok-språkmodellen lansert av xAI, med en Mixture-of-Experts-arkitektur og 33 milliarder parametere.

Key Concepts

  • Mixture-of-Experts (Blanding av eksperter)
  • Transformer-arkitektur
  • Antall parametere
  • Decoder-only-modell

Use Cases

  • Tekstgenerering og -fullføring
  • Kodesyntese
  • Komplekse resonnementoppgaver