Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Grok-1 är det första släppet från xAI, lanserat i november 2023. Det är en decoder-only-transformer-baserad stor språkmodell med cirka 33 miljarder parametrar. Den använder sig av en Mixture-of-Experts-arkitektur.
Summary
Den första versionen av Grok-språkmodellen som släpptes av xAI, med en Mixture-of-Experts-arkitektur och 33 miljarder parametrar.
Key Concepts
- Mixture-of-Experts
- Transformer-arkitektur
- Parameterräkning
- Decoder-only-modell
Use Cases
- Textgenerering och -komplettering
- Kodsynthes
- Komplexa resonemangsuppgifter