Học dự đoán
term_id: predictive_learning
Category: training_techniques
Definition
Học dự đoán liên quan đến việc huấn luyện mạng nơ-ron để suy luận các điểm dữ liệu chưa quan sát được từ các đầu vào đã quan sát mà không cần nhãn con người rõ ràng. Bằng cách giải quyết các nhiệm vụ như dự đoán token tiếp theo trong ngôn ngữ hoặc mô hình hóa bị che khuất, mô hình có thể học được các đặc trưng hữu ích từ dữ liệu không dán nhãn.
Summary
Một phương pháp tự giám sát, trong đó các mô hình học biểu diễn dữ liệu bằng cách dự đoán các phần bị thiếu của dữ liệu đầu vào.
Key Concepts
- Tự giám sát
- Mô hình hóa bị che khuất
- Học biểu diễn
- Dữ liệu không nhãn
Use Cases
- Tiền huấn luyện các mô hình ngôn ngữ lớn
- Nhiệm vụ điền ảnh (image inpainting)
- Phát hiện bất thường trong chuỗi thời gian