Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Grok-1 on xAI:n ensimmäinen julkaisu, joka lanseerattiin marraskuussa 2023. Se on vain dekooderiin perustuva muuntajaan (transformer) pohjautuva suuri kielimalli, jossa on noin 33 miljardia parametria. Malli hyödyntää merkittävästi Expertise-yhdistelmäarkkitehtuuria (Mixture-of-Experts), mikä mahdollistaa tehokkaamman laskennan ja paremman suorituskyvyn verrattuna perinteisiin tiheisiin malleihin samalla parametrimäärällä.
Summary
xAI:n julkaisema Grok-kielimallin ensimmäinen versio, jossa on käytössä Expertise-yhdistelmäarkkitehtuuri ja noin 33 miljardia parametria.
Key Concepts
- Expertise-yhdistelmäarkkitehtuuri
- Muuntaja-arkkitehtuuri
- Parametrimäärä
- Vain dekooderi -malli
Use Cases
- Tekstin generointi ja täydennys
- Koodin synteesi
- Monimutkaiset päättelytehtävät