Vllm
Definition
vLLM (Virtual Large Language Model) là một thư viện mã nguồn mở được thiết kế để tăng tốc …
Inference
Terms tagged with Inference
Inference Nhúng Văn bản
Definition
Inference Nhúng Văn bản đề cập đến việc triển khai và tối ưu hóa các mô hình chuyển đổi …
Suy luận Tạo văn bản
Definition
Suy luận Tạo văn bản (TGI) là một khung phần mềm chuyên dụng được thiết kế để phục vụ các …
Tính tự nhất quán
Definition
Chủ yếu được sử dụng với các Mô hình Ngôn ngữ Lớn (LLM), kỹ thuật này cải thiện độ chính …
PagedAttention
Definition
PagedAttention là một kỹ thuật được giới thiệu bởi dự án vLLM nhằm cải thiện hiệu suất …
Lý thuyết học suy luận
Definition
Lý thuyết này cho rằng học tập về bản chất là một quá trình suy luận xác suất. Thay vì …
Lan truyền kỳ vọng
Definition
Lan truyền kỳ vọng (Expectation Propagation - EP) xấp xỉ các tích phân không giải được …
Học tham lam (Eager learning)
Definition
Trong học tham lam, hệ thống xây dựng một hàm mục tiêu hoặc mô hình tổng quát dựa trên dữ …
Lập trình Bayesian
Definition
Lập trình Bayesian là một khung toán học tổng quát hóa định lý Bayes để xử lý các phụ …
Cơ chế học Bayes
Definition
Các cơ chế học Bayes cập nhật niềm tin về các tham số mô hình bằng cách sử dụng định lý …
Monte
Definition
Các kỹ thuật Monte Carlo là một lớp các thuật toán tính toán dựa trên việc lấy mẫu ngẫu …
Nhân quả
Definition
Trong trí tuệ nhân tạo, mô hình hóa nhân quả nhằm hiểu cách các can thiệp vào một biến …