Pythia
term_id: pythia
Category: basic_concepts
Definition
Pythia är en serie öppna källkod-stora språkmodeller (LLM) skapade av EleutherAI, designade för att underlätta forskning om tolkbarhet och beteende hos neuronnät. Samlingen inkluderar modeller…
Summary
Pythia är en samling decoder-endast stora språkmodeller utvecklade av EleutherAI, med mellan 70 miljoner och 12 miljarder parametrar.
Key Concepts
- Stora språkmodeller
- Tolkbarhetsforskning
- GPT-arkitektur
- Öppen källkod-AI
Use Cases
- Studera skalningsbeteenden hos LLM
- Forskning om modelltolkbarhet
- Utbildningsändamål inom NLP