Vllm
Definition
vLLM (Virtual Large Language Model) — это библиотека с открытым исходным кодом, …
Inference
Terms tagged with Inference
Инференс генерации текста
Definition
Инференс генерации текста (TGI) — это выделенная программная платформа, предназначенная …
Инференс текстовых эмбеддингов
Definition
Инференс текстовых эмбеддингов относится к развертыванию и оптимизации моделей, которые …
Самоконсистентность
Definition
В основном используется с большими языковыми моделями (LLM), эта техника повышает …
PagedAttention
Definition
PagedAttention — это техника, представленная проектом vLLM, направленная на повышение …
Выводная теория обучения
Definition
Эта теория утверждает, что обучение по своей сути является процессом вероятностного …
Распространение ожиданий
Definition
Распространение ожиданий (EP) аппроксимирует невычислимые интегралы путем итеративного …
Жадное обучение
Definition
При жадном обучении система строит общую целевую функцию или модель на основе обучающих …
Байесовское программирование
Definition
Байесовское программирование — это математическая основа, обобщающая теорему Байеса для …
Механизмы байесовского обучения
Definition
Механизмы байесовского обучения обновляют убеждения относительно параметров модели с …
Монте-Карло
Definition
Техники Монте-Карло — это класс вычислительных алгоритмов, основанных на многократной …
Причинно-следственный
Definition
В искусственном интеллекте причинное моделирование направлено на понимание того, как …