Đã tiền huấn luyện
term_id: pretrained
Category: training_techniques
Definition
Thuật ngữ ‘đã tiền huấn luyện’ mô tả một mô hình mạng nơ-ron đã trải qua giai đoạn huấn luyện ban đầu trên một tập dữ liệu khổng lồ, thường mang tính tổng quát như ImageNet hoặc Wikipedia. Quá trình này cho phép mô hình học các đặc trưng cơ bản và cấu trúc dữ liệu phức tạp, sau đó có thể được chuyển giao hoặc tinh chỉnh cho các nhiệm vụ chuyên biệt hơn với ít dữ liệu huấn luyện hơn.
Summary
Chỉ một mô hình đã được huấn luyện trên một tập dữ liệu lớn trước khi được điều chỉnh cho một nhiệm vụ cụ thể.
Key Concepts
- Học chuyển giao
- Trích xuất đặc trưng
- Mô hình nền tảng
- Tinh chỉnh
Use Cases
- Khởi tạo các mô hình BERT hoặc GPT
- Sử dụng ResNet cho phân loại ảnh
- Điểm bắt đầu cho các tác vụ xử lý ngôn ngữ tự nhiên theo miền