ליניארי

term_id: linear

Category: basic_concepts

Definition

פעולות ליניאריות כוללות כפל וחיסור ללא פעולות אי-ליניאריות. ברשתות נוירונים, שכבות ליניאריות (או שכבות צפופות) מפעילות טרנספורמציה של מטריצת משקלים על וקטורי קלט. בעוד ש-

Summary

מתאר פעולות או קשרים שבהם הפלט נמצא ביחס ישר לקלט, מהווה את הבסיס לטרנספורמציות אפיניות בשכבות נוירונים.

Key Concepts

  • מטריצת משקלים
  • טרנספורמציה אפינית
  • מכפלה סקלרית
  • סופרפוזיציה

Use Cases

  • הטלת מאפיינים
  • רגרסיה לוגיסטית
  • מנגנוני תשומת לב

Code Example

1
2
3
import torch.nn as nn
layer = nn.Linear(10, 5)
output = layer(input_tensor)