Inference generování textu
Definition
Inference generování textu (TGI) je specializovaný softwarový rámec určený pro obsluhu …
Deployment
Terms tagged with Deployment
Řezání (Pruning)
Definition
Řezání zahrnuje identifikaci a odstranění neuronů, propojení nebo filtrů v neuronové …
OpenVINO
Definition
Vyvinutý společností Intel umožňuje OpenVINO (Open Visual Inference and Neural network …
Komprese modelu
Definition
Tato kategorie zahrnuje metody jako odstraňování prvků (pruning), kvantizaci a distilaci …
Mikroservis
Definition
V kontextu inženýrství AI umožňují mikroservis různé komponenty AI pipeline, jako je …
MLOps
Definition
MLOps umožňuje organizacím nasazovat a udržovat modely strojového učení ve produkčním …
Lokální LLM
Definition
Spuštění lokálního LLM zahrnuje nasazení modelů s otevřenými váhami přímo na …
Poslední míle
Definition
Problém „poslední míle“ označuje výzvy spojené s nasazováním modelů do produkce, včetně …
Ochranné prvky
Definition
Ochranné prvky označují sadu softwarových kontrolních mechanismů a vrstev vynucování …
Gpt Oss
Definition
GPT OSS obvykle označuje alternativy s otevřeným zdrojovým kódem nebo deriváty …
Inference na okraji sítě
Definition
Tato praxe zahrnuje nasazení vycvičených modelů AI přímo na hardware, jako jsou chytré …
Edge Computing
Definition
Edge computing řeší omezení latence a šířky pásma cloudově orientovaných architektur …
Jednosouborový formát difuzních modelů
Definition
Jednosouborový formát difuzních modelů označuje strategii balení strojových učebních …
Algoritmická inferenční fáze
Definition
Také známá jako predikce nebo skórování, inferenční fáze probíhá po fázi trénování …
Testování
Definition
Testování v inženýrství AI zahrnuje důkladné hodnocení modelů proti různým sadám dat za …
Kvantizace
Definition
Kvantizace převádí čísla vysoké přesnosti (např. FP32) na formáty nižší přesnosti (např. …
Docker
Definition
Docker umožňuje vývojářům zabalit aplikaci se všemi jejími závislostmi do standardizované …
v reálném čase
Definition
V umělé inteligenci označuje ‘reálný čas’ schopnost systému zpracovávat …
nízké náklady
Definition
AI s nízkými náklady se zaměřuje na efektivitu, snaží se snížit bariéry vstupu a provozní …
Vozidlo
Definition
Ačkoli tradičně znamená dopravu, v terminologii AI může metaforicky popisovat mechanismus …
Cloud
Definition
Cloud computing poskytuje škálovatelnou infrastrukturu pro zátěž AI, umožňuje vývojářům …
Inference (Odvozování)
Definition
Inference označuje fázi nasazení, kdy je finální model používán k přijímání rozhodnutí …