Suy luận Tạo văn bản
Definition
Suy luận Tạo văn bản (TGI) là một khung phần mềm chuyên dụng được thiết kế để phục vụ các …
Deployment
Terms tagged with Deployment
Cắt tỉa
Definition
Cắt tỉa liên quan đến việc xác định và loại bỏ các nơ-ron, kết nối hoặc bộ lọc trong mạng …
OpenVINO
Definition
Được phát triển bởi Intel, OpenVINO (Open Visual Inference and Neural network …
Model Compression
Definition
Nhóm phương pháp này bao gồm các kỹ thuật như cắt tỉa (pruning), lượng tử hóa …
Vi dịch vụ (Microservices)
Definition
Trong bối cảnh kỹ thuật AI, vi dịch vụ cho phép các thành phần khác nhau của quy trình …
MLOps
Definition
MLOps cho phép các tổ chức triển khai và duy trì các mô hình học máy trong môi trường sản …
Local LLM
Definition
Chạy Local LLM liên quan đến việc triển khai các mô hình trọng số mở trực tiếp trên phần …
Dặm cuối
Definition
Vấn đề “dặm cuối” đề cập đến những thách thức gặp phải khi đưa các mô hình …
Rào chắn an toàn (Guardrails)
Definition
Rào chắn an toàn đề cập đến một tập hợp các lớp kiểm soát phần mềm và thực thi chính sách …
Gpt Oss
Definition
GPT OSS thường chỉ các giải pháp thay thế hoặc dẫn xuất mã nguồn mở của các mô hình …
Suy luận biên
Definition
Thực hành này liên quan đến việc triển khai trực tiếp các mô hình AI đã huấn luyện lên …
Điện toán biên (Edge Computing)
Definition
Điện toán biên giải quyết các hạn chế về độ trễ và băng thông của các kiến trúc tập trung …
Tệp đơn Khuếch tán
Definition
Tệp đơn Khuếch tán đề cập đến một chiến lược đóng gói cho các mô hình học máy, đặc biệt …
Suy luận thuật toán
Definition
Còn được gọi là dự đoán hoặc chấm điểm, suy luận xảy ra sau giai đoạn huấn luyện mô hình. …
Kiểm thử
Definition
Kiểm thử trong kỹ thuật AI liên quan đến việc đánh giá nghiêm ngặt các mô hình trên nhiều …
Lượng tử hóa
Definition
Lượng tử hóa chuyển đổi các số dấu phẩy động độ chính xác cao (như FP32) sang các định …
Docker
Definition
Docker cho phép các nhà phát triển đóng gói một ứng dụng cùng với tất cả các phụ thuộc …
thời gian thực
Definition
Trong trí tuệ nhân tạo, thời gian thực chỉ khả năng của một hệ thống xử lý đầu vào và tạo …
chi phí thấp
Definition
AI chi phí thấp tập trung vào hiệu quả, nhằm giảm bớt rào cản gia nhập và chi phí vận …
Phương tiện
Definition
Mặc dù truyền thống mang nghĩa là phương tiện vận tải, nhưng trong thuật ngữ AI, …
Điện toán đám mây
Definition
Điện toán đám mây cung cấp cơ sở hạ tầng có thể mở rộng cho các tác vụ AI, cho phép các …
Inference
Definition
Inference (Suy luận) đề cập đến giai đoạn triển khai, nơi một mô hình hoàn thiện được sử …