Mở rộng quy mô
term_id: scaling
Category: basic_concepts
Definition
Mở rộng quy mô là phương pháp luận chủ động để mở rộng các hệ thống AI bằng cách thêm nhiều lớp, nơ-ron hoặc ví dụ huấn luyện hơn. Nó bao gồm các kỹ thuật như huấn luyện phân tán trên nhiều GPU để xử lý sự gia tăng
Summary
Mở rộng quy mô là quá trình điều chỉnh kích thước mô hình hoặc khối lượng dữ liệu để nâng cao khả năng học và hiệu suất.
Key Concepts
- Huấn luyện phân tán
- Độ phức tạp của mô hình
- Quá khớp
- Tăng tốc phần cứng
Use Cases
- Học sâu phân tán
- Tăng độ sâu của mạng nơ-ron
- Mở rộng tập hợp dữ liệu huấn luyện