Transformers

Terms tagged with Transformers

Definition

يُعد ضبط البادئة تقنية لتكييف النماذج مسبقاً التدريب بكفاءة في استخدام المعلمات. بدلاً من …

يشير السياق الطويل إلى قدرة النماذج القائمة على المحولات (Transformers) على التعامل مع …

يُعد ملء القناع هدف تدريب أولي أساسي يُستخدم في النماذج القائمة على المحولات مثل BERT. …

يوفر ExBERT قابلية للتفسير لنموذج المحوّل BERT من خلال تحليل أهمية رؤوس الانتباه الفردية …

بما أن نماذج المحولات تعالج جميع الرموز بالتوازي بدلاً من التسلسل كما تفعل الشبكات …

تعالج المشفرات تسلسلات الإدخال الخام أو هياكل البيانات وتحولها إلى تمثيلات في الفضاء …

تتيح آليات الانتباه للنماذج التركيز على المعلومات ذات الصلة عند معالجة المدخلات، خاصة في …

تعد المحولات تقنية لضبط دقيق فعال من حيث المعلمات، وتُستخدم أساساً في نماذج اللغات …

يتيح الانتباه الذاتي للنماذج التقاط التبعيات بين جميع المواقع في التسلسل في وقت واحد، بغض …