פולי-סמנטיות

term_id: polysemanticity

Category: basic_concepts

Definition

פולי-סמנטיות היא מאפיין הנצפה ברשתות עצביות עמוקות, במיוחד בטרנספורמרים, שבו נוירון בודד עשוי להפעיל את עצמו כתגובה למספר תכונות לא קשורות או בעלות משמעות סמנטית שונה.

Summary

התופעה שבה נוירונים בודדים ברשתות עצביות מגיבים למספר מושגים שונים.

Key Concepts

  • פרשנות נוירונים
  • אוטואנקודרים דלילים
  • הפרדת תכונות
  • ארכיטקטורת טרנספורמר

Use Cases

  • מחקר בפרשנות מכניסטית
  • ניפוי באגים בהתנהגות המודל
  • שיפור השקיפות והבטיחות של המודל