vLLM
Definition
vLLM (Virtual Large Language Model) to biblioteka open-source zaprojektowana w celu …
Terms tagged with Inference
vLLM (Virtual Large Language Model) to biblioteka open-source zaprojektowana w celu …
Inferencja Generowania Tekstu (TGI) to dedykowany szkielet oprogramowania zaprojektowany …
Inferencja Osadzania Tekstu odnosi się do wdrażania i optymalizacji modeli, które …
Głównie stosowana w przypadku dużych modeli językowych (LLM), technika ta poprawia …
PagedAttention to technika wprowadzona przez projekt vLLM w celu poprawy wydajności …
Teoria ta zakłada, że uczenie jest zasadniczo procesem wnioskowania probabilistycznego. …
Propagacja Oczekiwań (EP) przybliża nieobliczalne całki poprzez iteracyjne udoskonalanie …
W uczeniu żarłocznym system konstruuje ogólną funkcję celu lub model na podstawie danych …
Programowanie bayesowskie to matematyczny framework uogólniający twierdzenie Bayesa w …
Mechanizmy uczenia bayesowskiego aktualizują przekonania dotyczące parametrów modelu za …
Techniki Monte Carlo to klasa algorytmów obliczeniowych polegających na powtarzalnym …
W sztucznej inteligencji modelowanie przyczynowe ma na celu zrozumienie, jak interwencje …