خدعة إعادة المعلمات

term_id: reparameterization_trick

Category: basic_concepts

Definition

تُعد خدعة إعادة المعلمات أسلوباً أساسياً يُستخدم في المحولات التباينية الذاتية والنماذج الاحتمالية الأخرى. وتسمح هذه الخدعة بمرور التدرجات عبر العقد العشوائية من خلال التعبير عن متغير عشوائي كمجموعة من المعلمات القابلة للتعلم وعامل عشوائي مستقل، مما يتيح حساب التدرجات بدقة وكفاءة.

Summary

تقنية تفصل المتغيرات العشوائية عن المعلمات القابلة للتعلم لتمكين التحسين القائم على التدرج في الاستدلال التبايني.

Key Concepts

  • الاستدلال التبايني
  • تقدير التدرج
  • العقد العشوائية
  • المحاكاة القابلة للاشتقاق

Use Cases

  • تدريب المحولات التباينية الذاتية (VAEs)
  • الشبكات العصبية البايزية
  • النماذج الرسومية الاحتمالية

Code Example

1
2
3
4
5

import torch
epsilon = torch.randn(100, 10)
mu = torch.zeros(100, 10)
sigma = torch.ones(100, 10)
z = mu + sigma * epsilon  # Reparameterized sampling

Related