Pythia
term_id: pythia
Category: basic_concepts
Definition
Pythia ist eine Reihe quelloffener Large Language Models (LLMs), die von EleutherAI erstellt wurden, um die Forschung zur Interpretierbarkeit und zum Verhalten neuronaler Netze zu erleichtern. Die Suite umfasst Mode
Summary
Pythia ist eine Suite von Decoder-basierten Large Language Models (LLMs), die von EleutherAI entwickelt wurden und zwischen 70 Millionen und 12 Milliarden Parametern umfassen.
Key Concepts
- Large Language Models
- Forschung zur Interpretierbarkeit
- GPT-Architektur
- Quelloffene KI
Use Cases
- Untersuchung des Skalierungsverhaltens von LLMs
- Forschung zur Modellinterpretierbarkeit
- Bildungszwecke im Bereich NLP