vLLM
Definition
vLLM (Virtual Large Language Model) er et åpen kildekode-bibliotek designet for å …
Inference
Terms tagged with Inference
Tekstgenereringinferens
Definition
Tekstgenereringinferens (TGI) er et dedikert programvarerammeverk designet for å betjene …
Tekstinnleiringsinferens
Definition
Tekstinnleiringsinferens refererer til distribusjon og optimering av modeller som …
Selvkonsistens
Definition
Denne teknikken brukes primært med store språkmodeller (LLM) og forbedrer nøyaktigheten …
PagedAttention
Definition
PagedAttention er en teknikk introdusert av vLLM-prosjektet for å forbedre effektiviteten …
Inferensiell læringsteori
Definition
Denne teorien hevder at læring i bunn og grunn er en prosess med sannsynlig inferens. I …
Forventningspropagering
Definition
Forventningspropagering (EP) approksimerer ubehandlelige integraler ved iterativt å …
Eager learning
Definition
Ved eager learning konstruerer systemet en generell målfunksjon eller modell basert på …
Bayesiansk programmering
Definition
Bayesiansk programmering er et matematisk rammeverk som generaliserer Bayes-teoremet for …
Bayesiske læringsmekanismer
Definition
Bayesiske læringsmekanismer oppdaterer troen på modellparametere ved hjelp av …
Monte Carlo
Definition
Monte Carlo-teknikker er en klasse av datamaskinalgoritmer som stoler på gjentatt …
Kausal
Definition
Innen kunstig intelligens søker kausal modellering å forstå hvordan intervensjoner på én …