经验风险最小化

term_id: empirical_risk_minimization

Category: basic_concepts

Definition

经验风险最小化(ERM)是训练监督学习模型的标准目标函数。它涉及从一组函数中选择假设,以最小化训练数据上的平均误差(即经验风险)。其核心思想是通过优化训练集上的表现来逼近真实的风险分布。

Summary

机器学习中的一个基本原则,旨在最小化观测训练数据上的平均损失。

Key Concepts

  • 损失函数
  • 训练误差
  • 泛化能力
  • 过拟合

Use Cases

  • 训练逻辑回归模型
  • 优化神经网络权重
  • 支持向量机构建