Veri Seti: Tiiuae/Falcon Refinedweb
term_id: datasettiiuaefalcon_refinedweb
Category: basic_concepts
Definition
RefinedWeb, temel modelleri önceden eğitmek için tasarlanmış, filtrelenmiş web sayfalarından oluşan büyük ölçekli bir veri setidir. Düşük kaliteli içerikleri, kopyaları ve zararlı materyalleri elemek için milyarlarca web sayfasını işler.
Summary
Falcon gibi büyük dil modellerini önceden eğitmek için Teknoloji Araştırma Enstitüsü tarafından özenle hazırlanmış, devasa ve yüksek kaliteli bir web veri seti.
Key Concepts
- Veri Filtreleme
- Önceden Eğitme Korpusu
- Web Kazıma
- Kalite Kontrol
Use Cases
- Büyük dil modellerinin önceden eğitimi
- Veri kalitesinin model performansına etkisinin karşılaştırılması
- Verimli eğitim hatlarının oluşturulması