Phương pháp gradient gần đúng cho học máy

term_id: proximal_gradient_methods_for_learning

Category: training_techniques

Definition

Các phương pháp gradient gần đúng là kỹ thuật tối ưu hóa lặp được sử dụng khi hàm mất mát bao gồm một thành phần trơn có thể phân biệt và một bộ điều chuẩn không khả vi, chẳng hạn như chuẩn L1. Thuật toán

Summary

Các thuật toán tối ưu hóa được thiết kế để cực tiểu hóa các hàm mục tiêu tổ hợp chứa cả thành phần trơn và không trơn.

Key Concepts

  • tối ưu hóa tổ hợp
  • toán tử gần đúng
  • điều chuẩn L1
  • lồi không trơn

Use Cases

  • Lựa chọn đặc trưng thưa
  • Hồi quy Lasso
  • Mô hình dự đoán có cấu trúc