آلية الانتباه
term_id: attention_mechanism
Category: basic_concepts
Definition
تمكّن آلية الانتباه النموذج من وزن أهمية العناصر المختلفة داخل تسلسل الإدخال بشكل ديناميكي. وبدلاً من معاملة جميع بيانات الإدخال بالتساوي، فإنها تعطي مستويات متفاوتة من الأهمية.
Summary
تقنية تسمح للشبكات العصبية بالتركيز على أجزاء محددة من بيانات الإدخال عند إنتاج المخرجات.
Key Concepts
- الانتباه الذاتي
- متجهات السياق
- المجموع المرجح
- هندسة المحولات (Transformer Architecture)
Use Cases
- نماذج الترجمة الآلية
- توليد التسميات التوضيحية للصور
- تلخيص النصوص