Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Grok-1 è il primo rilascio di xAI, lanciato nel novembre 2023. Si tratta di un modello linguistico di grandi dimensioni basato su un decoder transformer con circa 33 miliardi di parametri. Utilizza un’architettura Mixture-of-Experts (MoE), che consente al modello di attivare solo una parte dei suoi parametri per ogni token, migliorando l’efficienza computazionale rispetto ai modelli densi equivalenti.
Summary
La prima versione del modello linguistico Grok rilasciata da xAI, caratterizzata da un’architettura Mixture-of-Experts e da 33 miliardi di parametri.
Key Concepts
- Mixture-of-Experts
- Architettura Transformer
- Conteggio dei parametri
- Modello solo decoder
Use Cases
- Generazione e completamento di testo
- Sintesi di codice
- Compiti di ragionamento complesso