مجموعة بيانات: Tiiuae/Falcon Refinedweb
term_id: datasettiiuaefalcon_refinedweb
Category: basic_concepts
Definition
تُعد RefinedWeb مجموعة بيانات واسعة النطاق من صفحات الويب المفلترة والمصممة للتدريب المسبق للنماذج الأساسية. تعالج مليارات صفحات الويب لإزالة المحتوى منخفض الجودة، والتكرارات، والمواد الضارة…
Summary
مجموعة بيانات ويب ضخمة وعالية الجودة جمعتها معهد الابتكار التقني (TII) للتدريب المسبق لنماذج لغوية كبيرة مثل Falcon.
Key Concepts
- تنقية البيانات
- مرجع التدريب المسبق
- حصاد الويب
- ضبط الجودة
Use Cases
- التدريب المسبق للنماذج اللغوية الكبيرة
- مقارنة تأثير جودة البيانات على أداء النموذج
- بناء خطوط تدريب فعالة