Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Grok-1 ist die Erstveröffentlichung von xAI, die im November 2023 gestartet wurde. Es handelt sich um ein Decoder-nur-Transformer-basiertes Large Language Model mit ungefähr 33 Milliarden Parametern. Bemerkenswert ist, dass es eine Mixture-of-Experts (MoE)-Architektur nutzt, bei der nicht alle Parameter für jede Eingabe aktiv sind, was die Recheneffizienz erhöht. Das Modell wurde darauf trainiert, komplexe logische Aufgaben zu lösen und bietet einen direkten Zugriff auf Echtzeitdaten von X.
Summary
Die erste Version des Grok-Sprachmodells, veröffentlicht von xAI, mit einer Mixture-of-Experts-Architektur und etwa 33 Milliarden Parametern.
Key Concepts
- Mixture-of-Experts
- Transformer-Architektur
- Parameteranzahl
- Decoder-nur-Modell
Use Cases
- Textgenerierung und -ergänzung
- Codesynthese
- Komplexe Reasoning-Aufgaben