Инференс генерации текста
Definition
Инференс генерации текста (TGI) — это выделенная программная платформа, предназначенная …
Deployment
Terms tagged with Deployment
Прунинг (обрезка)
Definition
Прунинг заключается в выявлении и удалении нейронов, связей или фильтров в нейронной …
OpenVINO
Definition
Разработанный компанией Intel, OpenVINO (Open Visual Inference and Neural network …
Сжатие моделей
Definition
Этот класс включает такие методы, как прунинг (обрезка), квантование и дистилляция …
Микросервисы
Definition
В контексте инженерии ИИ микросервисы позволяют различным компонентам конвейера ИИ, таким …
MLOps
Definition
MLOps позволяет организациям надежно и эффективно развертывать и поддерживать модели …
Локальная LLM
Definition
Запуск локальной LLM включает развертывание моделей с открытым весом непосредственно на …
Последняя миля
Definition
Проблема «последней мили» относится к трудностям, возникающим при развертывании моделей в …
Ограничительные механизмы (Guardrails)
Definition
Ограничительные механизмы (Guardrails) представляют собой набор программных контролей и …
Gpt Oss
Definition
GPT OSS обычно обозначает альтернативы с открытым исходным кодом или производные модели …
Граничный вывод (Edge inference)
Definition
Эта практика предполагает развертывание обученных моделей ИИ непосредственно на таком …
Периферийные вычисления
Definition
Периферийные вычисления решают проблемы задержки и пропускной способности, характерные …
Один файл диффузии
Definition
Diffusion Single File относится к стратегии упаковки моделей машинного обучения, особенно …
Алгоритмический вывод
Definition
Также известный как прогнозирование или скоринг, вывод происходит после этапа обучения …
Тестирование
Definition
Тестирование в инженерии ИИ включает тщательную оценку моделей на разнообразных наборах …
Квантование
Definition
Квантование преобразует числа высокой точности с плавающей запятой (например, FP32) в …
Docker
Definition
Docker позволяет разработчикам упаковывать приложение со всеми его зависимостями в …
реальное время
Definition
В искусственном интеллекте термин «реальное время» обозначает способность системы …
низкозатратный
Definition
Низкозатратный ИИ фокусируется на эффективности, стремясь снизить барьеры для входа и …
Платформа доставки (Vehicle)
Definition
Хотя традиционно означает транспортное средство, в терминологии ИИ слово «vehicle» может …
Облако
Definition
Облачные вычисления обеспечивают масштабируемую инфраструктуру для задач ИИ, позволяя …
Вывод (Inference)
Definition
Вывод относится к этапу развертывания, на котором готовая модель используется для …