Yeniden Parametreleştirme Hilesi

term_id: reparameterization_trick

Category: basic_concepts

Definition

Yeniden parametreleştirme hilesi, varyasyonsel otoenkoderler ve diğer olasılıksal modellerde kullanılan temel bir yöntemdir. Rastgele bir değişkeni, öğrenilebilir parametreler ve bağımsız bir gürültü dağılımı cinsinden ifade ederek, gradyanların stokastik düğümlerden akmasını sağlar.

Summary

Değişken çıkarımda (variational inference) gradyan tabanlı optimizasyonu mümkün kılmak için stokastik değişkenleri öğrenilebilir parametlerden ayıran bir teknik.

Key Concepts

  • Varyasyonsel Çıkarım
  • Gradyan Tahmini
  • Stokastik Düğümler
  • Farklaştırılabilir Simülasyon

Use Cases

  • Varyasyonsel Otoenkoderlerin (VAE) Eğitimi
  • Bayesçi Sinir Ağları
  • Olasılıksal Grafik Modeller

Code Example

1
2
3
4
5

import torch
epsilon = torch.randn(100, 10)
mu = torch.zeros(100, 10)
sigma = torch.ones(100, 10)
z = mu + sigma * epsilon  # Reparameterized sampling

Related