Eagle

Definition

Eagle mewakili kerangka kerja arsitektur dan rekayasa spesifik dalam domain Model Bahasa Besar, terutama terkait dengan optimasi untuk efisiensi pelatihan dan skalabilitas. Kerangka ini fokus pada peningkatan kecepatan dan penggunaan sumber daya selama proses pelatihan model skala besar.

Summary

Eagle adalah kerangka kerja model bahasa besar (LLM) sumber terbuka berkinerja tinggi yang dikembangkan oleh ByteDance, dirancang untuk efisiensi pre-training dan fine-tuning LLM.

Key Concepts

• Kerangka Kerja LLM
• Efisiensi Pelatihan
• Arsitektur Transformer
• Sumber Terbuka

Use Cases

• Pre-training model skala besar
• Fine-tuning LLM yang efisien
• Riset optimasi model

Related Terms

• PyTorch (Kerangka kerja deep learning)
• Megatron-LM (Kerangka kerja pelatihan LLM paralel)
• DeepSpeed (Kerangka optimasi pelatihan deep learning)
• Model Bahasa Besar (Model AI yang dilatih pada corpus teks raksasa)