Градиентный спуск
term_id: gradient_descent
Category: basic_concepts
Definition
Градиентный спуск — это алгоритм оптимизации первого порядка для нахождения локального минимума дифференцируемой функции. В машинном обучении он обновляет веса модели в направлении, противоположном градиенту функции потерь.
Summary
Итеративный алгоритм оптимизации, используемый для минимизации функции потерь путем настройки параметров модели.
Key Concepts
- Функция потерь
- Скорость обучения
- Оптимизация
- Обратное распространение ошибки
Use Cases
- Обучение глубоких нейронных сетей
- Настройка параметров линейной регрессии
- Оптимизация моделей распознавания изображений