Grok 1
term_id: grok_1
Category: basic_concepts
Definition
Το Grok-1 είναι η πρώτη κυκλοφορία της xAI, που ξεκίνησε τον Νοέμβριο του 2023. Πρόκειται για ένα μοντέλο μεγάλης γλώσσας βασισμένο σε αρχιτεκτονική μετασχηματιστή αποκλειστικά αποκωδικοποιητή (decoder-only) με περίπου 33 δισεκατομμύρια παραμέτρους. Σημαντικό χαρακτηριστικό του είναι η χρήση αρχιτεκτονικής Mixture-of-Experts (MoE), η οποία επιτρέπει στο μοντέλο να ενεργοποιεί μόνο ένα υποσύνολο των παραμέτρων του για κάθε είσοδο, βελτιώνοντας την αποδοτικότητα και την ταχύτητα εκτέλεσης.
Summary
Η πρώτη έκδοση του μοντέλου γλώσσας Grok που κυκλοφόρησε από την xAI, χαρακτηριζόμενη από αρχιτεκτονική Mixture-of-Experts και μετρητή παραμέτρων 33 δισεκατομμυρίων.
Key Concepts
- Mixture-of-Experts
- Αρχιτεκτονική Transformer
- Μετρητής Παραμέτρων
- Μοντέλο Αποκλειστικά Αποκωδικοποιητή
Use Cases
- Γενεαλογία και συμπλήρωση κειμένου
- Σύνθεση κώδικα
- Εννοιολογικές εργασίες σύνθετης λογικής