梯度下降

term_id: gradient_descent

Category: basic_concepts

Definition

梯度下降是一种用于寻找可微函数局部最小值的一阶迭代优化算法。在机器学习中,它沿梯度的反方向更新模型权重,以逐步降低损失。

Summary

一种迭代优化算法,通过调整模型参数来最小化损失函数。

Key Concepts

  • 损失函数
  • 学习率
  • 优化
  • 反向传播

Use Cases

  • 训练深度神经网络
  • 线性回归参数调优
  • 图像识别模型优化