Text Generation Inference
Definition
Text Generation Inference (TGI) is een speciaal softwarekader dat is ontworpen om grote …
Deployment
Terms tagged with Deployment
Pruning
Definition
Pruning omvat het identificeren en elimineren van neuronen, verbindingen of filters in …
OpenVINO
Definition
Ontwikkeld door Intel, stelt OpenVINO (Open Visual Inference and Neural network …
Model Compression
Definition
Deze categorie omvat methoden zoals pruning, kwantisering en knowledge distillation, …
Microservices
Definition
In de context van AI-engineering stellen microservices verschillende componenten van een …
MLOps
Definition
MLOps stelt organisaties in staat om machine learning-modellen in productie betrouwbaar …
Lokaal LLM
Definition
Het uitvoeren van een lokaal LLM houdt in dat open-weight modellen direct worden …
Last mile
Definition
Het ’last mile’-probleem verwijst naar de uitdagingen die worden ervaren bij …
Guardrails
Definition
Guardrails verwijzen naar een reeks softwarecontroles en policy enforcement-lagen die …
Gpt Oss
Definition
GPT OSS duidt doorgaans op open-source alternatieven of afgeleiden van propriëtaire …
Edge-inferentie
Definition
Deze praktijk houdt in dat getrainde AI-modellen direct worden geïmplementeerd op …
Edge Computing
Definition
Edge Computing adresseert de latentie- en bandbreedtelimieten van cloudgerichte …
Diffusion Single File
Definition
Diffusion Single File verwijst naar een verpakkingsstrategie voor …
Algoritmische inferentie
Definition
Ook wel voorspelling of scoring genoemd, vindt inferentie plaats na de trainingsfase van …
Testen
Definition
Testen in AI-engineering omvat het rigoureus beoordelen van modellen tegen diverse …
Kwantisatie
Definition
Kwantisatie zet hoogprecisie drijvende-kommagetallen (zoals FP32) om naar formaten met …
Docker
Definition
Docker stelt ontwikkelaars in staat om een applicatie samen met alle afhankelijkheden te …
real-time
Definition
In kunstmatige intelligentie betekent real-time dat een systeem inputs kan verwerken en …
goedkoop
Definition
Goedkope AI richt zich op efficiëntie, met als doel de instapdrempels en operationele …
Vehicle
Definition
Hoewel het traditioneel vervoer betekent, kan ‘vehicle’ in AI-jargon …
Cloud
Definition
Cloudcomputing biedt schaalbare infrastructuur voor AI-werklasten, waardoor ontwikkelaars …
Inferentie
Definition
Inferentie verwijst naar de implementatiefase waarin een voltooid model wordt gebruikt om …