Phi
term_id: phi
Category: basic_concepts
Definition
Phi, kort för ‘Foundation models based on Teaching-Learning Paradigm’, är en familj av kompakta stora språkmodeller skapade av Microsoft. Till skillnad från traditionella LLMer som tränas på massiva webbkorpus, fokuserar Phi på högkvalitativ syntetisk data för att uppnå starka prestandaresultat med färre parametrar.
Summary
En serie små men mycket effektiva stora språkmodeller utvecklade av Microsoft Research, med fokus på kunsketsdensitet och resonemangsförmåga.
Key Concepts
- Små språkmodeller
- Syntetisk data
- Resonemang
- Kunsketsdensitet
Use Cases
- AI-deployment på kantenheter (edge devices)
- Uppgifter med komplex logisk resonemangsförmåga
- Kostnadseffektiva API-tjänster