Inferensi Generasi Teks
Definition
Inferensi Generasi Teks (TGI) adalah kerangka kerja perangkat lunak khusus yang dirancang …
Terms tagged with Deployment
Inferensi Generasi Teks (TGI) adalah kerangka kerja perangkat lunak khusus yang dirancang …
Pemangkasan melibatkan identifikasi dan penghilangan neuron, koneksi, atau filter dalam …
Dikembangkan oleh Intel, OpenVINO (Open Visual Inference and Neural network Optimization) …
Kategori ini mencakup metode seperti pemangkasan (pruning), kuantisasi, dan distilasi …
Dalam konteks rekayasa AI, mikroservice memungkinkan komponen-komponen berbeda dalam pipa …
MLOps memungkinkan organisasi untuk menerapkan dan memelihara model pembelajaran mesin di …
Menjalankan LLM Lokal melibatkan penyebaran model berbobot terbuka secara langsung pada …
Masalah ‘mil terakhir’ merujuk pada tantangan yang dihadapi saat menerapkan …
Guardrails merujuk pada seperangkat kontrol perangkat lunak dan lapisan penegakan …
GPT OSS biasanya menunjukkan alternatif atau turunan sumber terbuka dari model …
Praktik ini melibatkan penyebaran model AI yang telah dilatih langsung ke perangkat keras …
Edge computing mengatasi keterbatasan latensi dan bandwidth dari arsitektur yang berpusat …
Diffusion Single File merujuk pada strategi pengemasan untuk model pembelajaran mesin, …
Dikenal juga sebagai prediksi atau skor, inferensi terjadi setelah fase pelatihan model. …
Pengujian dalam rekayasa AI melibatkan penilaian model secara ketat terhadap berbagai …
Kuantisasi mengonversi angka floating-point presisi tinggi (seperti FP32) menjadi format …
Docker memungkinkan pengembang untuk membungkus aplikasi beserta semua dependensinya ke …
Dalam kecerdasan buatan, waktu nyata menunjukkan kemampuan sistem untuk memproses masukan …
AI biaya rendah berfokus pada efisiensi, bertujuan untuk mengurangi hambatan masuk dan …
Meskipun secara tradisional berarti transportasi, dalam terminologi AI, …
Komputasi awan menyediakan infrastruktur yang dapat diskalakan untuk beban kerja AI, …
Inferensi merujuk pada tahap penempatan di mana model final digunakan untuk membuat …