损失函数

term_id: loss_function

Category: basic_concepts

Definition

损失函数也被称为成本函数或误差函数，它提供一个标量值，指示模型的执行表现。在训练过程中，优化算法利用该值来计算梯度，从而更新模型参数以最小化误差。

Summary

在训练期间量化预测值与实际目标值之间差异的数学函数。

Key Concepts

反向传播
梯度计算
优化
误差指标

Use Cases

训练监督学习模型
评估模型性能
超参数调优

Code Example

1
2
import torch.nn as nn
criterion = nn.CrossEntropyLoss()