Vllm
Definition
vLLM(가상 대규모 언어 모델)은 LLM 서빙을 가속화하기 위해 설계된 오픈소스 라이브러리입니다. 이는 운영 체제의 가상 메모리에서 영감을 받은 메모리 관리 …
Terms tagged with Library
vLLM(가상 대규모 언어 모델)은 LLM 서빙을 가속화하기 위해 설계된 오픈소스 라이브러리입니다. 이는 운영 체제의 가상 메모리에서 영감을 받은 메모리 관리 …
Unsloth는 대규모 언어 모델(LLM)의 파인튜닝 및 배포를 최적화하도록 설계된 전용 도구입니다. 표준 PyTorch 연산을 대체하여 상당한 속도 향상과 메 …
디퓨저스(Diffusers) 라이브러리는 허깅 페이스에서 개발한 오픈소스 툴킷으로, 특히 스테이블 디퓨전과 같은 사전 학습된 디퓨전 모델의 사용을 단순화하도록 …
믹스인은 각 모델 아키텍처가 이러한 유틸리티를 개별적으로 구현할 필요 없이, 모델을 저장하고, 로드하고, Hugging Face …
허깅페이스 Diffusers는 확산 모델의 사용을 단순화하기 위해 설계된 모듈식 도구 모음입니다. 텍스트-이미지 생성, 이미지 인페인팅(Inpainting), …
‘Transformers’라는 용어는 종종 Hugging Face가 유지 관리하는 널리 사용되는 Python 라이브러리를 가리킵니다. 이 …