Eagle
term_id: eagle
Category: basic_concepts
Definition
Eagle đại diện cho một khung kiến trúc và kỹ thuật cụ thể trong lĩnh vực Mô hình Ngôn ngữ Lớn, chủ yếu liên quan đến các tối ưu hóa về hiệu quả huấn luyện và khả năng mở rộng. Nó tập trung vào việc cải thiện tốc độ và tài nguyên cần thiết cho việc huấn luyện các mô hình quy mô lớn.
Summary
Eagle là một khung làm việc mô hình ngôn ngữ lớn (LLM) mã nguồn mở, hiệu suất cao do ByteDance phát triển, được thiết kế để tiền huấn luyện và tinh chỉnh LLM một cách hiệu quả.
Key Concepts
- Khung LLM
- Hiệu quả huấn luyện
- Kiến trúc Transformer
- Mã nguồn mở
Use Cases
- Tiền huấn luyện mô hình quy mô lớn
- Tinh chỉnh hiệu quả LLM
- Nghiên cứu tối ưu hóa mô hình