Adam

term_id: adam

Category: basic_concepts

Definition

Adam (Adaptive Moment Estimation) adalah algoritma optimisasi berbasis gradien orde pertama yang populer digunakan dalam pelatihan jaringan saraf tiruan mendalam. Algoritma ini menggabungkan keunggulan dari dua ekstensi lain dari stokastik

Summary

Algoritma optimisasi yang menghitung tingkat pembelajaran adaptif untuk setiap parameter.

Key Concepts

  • Penurunan Gradien
  • Tingkat Pembelajaran
  • Momentum
  • Estimasi Varians

Use Cases

  • Pelatihan Deep Learning
  • Model Computer Vision
  • Pemrosesan Bahasa Alamiah

Code Example

1
2

import torch.optim as optim
optimizer = optim.Adam(model.parameters(), lr=0.001)

Related