Tekstgenereringinferens
Definition
Tekstgenereringinferens (TGI) er et dedikert programvarerammeverk designet for å betjene …
Deployment
Terms tagged with Deployment
Pruning (beskjæring)
Definition
Pruning involverer å identifisere og eliminere nerver, tilkoblinger eller filtre i et …
OpenVINO
Definition
Utviklet av Intel, lar OpenVINO (Open Visual Inference and Neural network Optimization) …
Model Compression
Definition
Denne kategorien inkluderer metoder som pruning, kvantisering og kunnskapsdistillasjon, …
Mikrotjenester
Definition
I sammenheng med AI-ingeniørfag lar mikrotjenester ulike komponenter i en AI-pipeline, …
MLOps
Definition
MLOps muliggjør for organisasjoner å utplassere og vedlikeholde maskinlæringsmodeller i …
Lokal LLM
Definition
Å kjøre en lokal LLM innebærer å distribuere åpne språkmodeller direkte på …
Siste mil
Definition
Problemet med «det siste mil» refererer til utfordringene som oppstår ved distribusjon av …
Sikkerhetsrekkverk
Definition
Sikkerhetsrekkverk refererer til et sett med programvarekontroller og …
Gpt Oss
Definition
GPT OSS betegner vanligvis alternativer eller derivater av proprietære Generative …
Kant-inferanse
Definition
Denne praksisen innebærer å distribuere trentede AI-modeller direkte til maskinvare som …
Edge Computing
Definition
Edge Computing adresserer latens- og båndbreddebegrensningene ved sky-sentrerte …
Diffusjon enkeltfil
Definition
Diffusjon enkeltfil refererer til en pakkeringsstrategi for maskinlæringsmodeller, …
Algoritmisk inferens
Definition
Også kjent som prediksjon eller scoring, skjer inferens etter modelltreningen. Algoritmen …
Testing
Definition
Testing innen AI-ingeniørfag involverer grundig vurdering av modeller mot ulike datasett …
Kvantisering
Definition
Kvantisering konverterer høy-presisjons flyttallstall (som FP32) til lavere …
Docker
Definition
Docker gjør det mulig for utviklere å pakke inn en applikasjon sammen med alle …
sanntid
Definition
Innen kunstig intelligens betegner sanntid evnen til et system til å behandle input og …
lav kostnad
Definition
AI med lave kostnader fokuserer på effektivitet, med mål om å redusere inngangsbarerierer …
Kjøretøy / Leveringsmedium
Definition
Selv om tradisjonelt betydning transport, kan ‘kjøretøy’ i AI-terminologi …
Skyen
Definition
Skykomputasjon gir skalerbar infrastruktur for AI-arbeidsbelastninger, og lar utviklere …
Inferens
Definition
Inferens refererer til distribueringsfasen der en ferdig modell brukes til å ta …