Yerel LLM
term_id: local_llm
Category: application_paradigms
Definition
Bir Yerel LLM çalıştırmak, açık ağırlıklı modelleri PC’ler, Mac’ler veya yerel sunucular gibi tüketici sınıfı donanımlara doğrudan dağıtmayı içerir. Bu yaklaşım, üçüncü taraf API sağlayıcılarına olan bağımlılığı ortadan kaldırarak gizliliği sağlar.
Summary
Yerel LLM, büyük dil modellerini bulut hizmetleri yerine kişisel donanımlarda çalıştırmayı ifade eder ve veri gizliliği ile çevrimdışı erişilebilirliği önceliklendirir.
Key Concepts
- Cihaz İçi Çıkarım
- Veri Gizliliği
- Nicelleştirme
- Donanım Gereksinimleri
Use Cases
- Özel not alma asistanları
- Çevrimdışı araştırma araçları
- Güvenli kurumsal veri işleme