Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Grok-1 to inauguracyjne wydanie od xAI, uruchomione w listopadzie 2023 roku. Jest to duży model językowy oparty na architekturze transformera typu decoder-only, z około 33 miliardami parametrów. Co istotne, wykorzystuje on architekturę Mixture-of-Experts…
Summary
Pierwsza wersja modelu językowego Grok wydana przez xAI, wyposażona w architekturę Mixture-of-Experts i liczbę parametrów wynoszącą 33 miliardy.
Key Concepts
- Mixture-of-Experts (architektura mieszana ekspertów)
- Architektura transformera
- Liczba parametrów
- Model typu decoder-only
Use Cases
- Generowanie i uzupełnianie tekstu
- Synteza kodu
- Złożone zadania rozumowania