Token maxxing
Definition
Token maxxing zahrnuje pečlivé tvoření vstupních dat tak, aby využívaly plnou kapacitu …
Optimization
Terms tagged with Optimization
Třífaktorové učení
Definition
Třífaktorové učení je specifický přístup v rámci učení s posilováním, který rozkládá …
TFLite
Definition
TensorFlow Lite je open-source framework navržený pro nasazení modelů strojového učení na …
Inference generování textu
Definition
Inference generování textu (TGI) je specializovaný softwarový rámec určený pro obsluhu …
Symbolická regrese
Definition
Symbolická regrese je typ regresní analýzy, který se snaží najít matematický výraz, …
Náhradní model
Definition
V strojovém učení a optimalizaci slouží náhradní model jako zástupce cílové funkce, …
Minimalizace strukturálního rizika
Definition
Minimalizace strukturálního rizika (SRM) je metoda pro minimalizaci očekávaného rizika …
Regularizace strukturované vzácnosti
Definition
Regularizace strukturované vzácnosti rozšiřuje standardní L1 regularizaci tím, že …
Semantické skládání
Definition
Semantické skládání označuje proces komprese komplexních vektorových vložení vysoké …
Reparametrizační trik
Definition
Reparametrizační trik je základní metoda používaná v variabilních autoenkodérech a jiných …
Regularizace
Definition
Regularizace je klíčový koncept ve strojovém učení určený ke snížení chyby generalizace …
Náhodná feature
Definition
Mapování náhodných feature transformuje vstupy do nového prostoru, kde lineární modely …
Kvantizovaný
Definition
Kvantizace je technikou optimalizace modelu, která snižuje číselnou přesnost parametrů …
Ladění promptů
Definition
Ladění promptů spočívá v přidatelných měkkých promptech (spojitých vektorů) do vstupní …
Proximální gradientní metody pro učení
Definition
Proximální gradientní metody jsou iterativní optimalizační techniky používané, když …
PagedAttention
Definition
PagedAttention je technika představená projektem vLLM pro zlepšení efektivity inferencí …
OpenVINO
Definition
Vyvinutý společností Intel umožňuje OpenVINO (Open Visual Inference and Neural network …
Mxfp4
Definition
MXFP4 (Mixed eXtended Floating Point 4-bit) je specializovaný formát datového typu …
Metoda násobné aktualizace vah
Definition
Metoda násobné aktualizace vah je základní algoritmus online učení používaný k …
Vícenásobné učení úloh
Definition
Tato technika využívá induktivní bias sdílený mezi souvisejícími úlohami ke zvýšení …
Komprese modelu
Definition
Tato kategorie zahrnuje metody jako odstraňování prvků (pruning), kvantizaci a distilaci …
MobileNet
Definition
MobileNety využívají hloubkově separovatelné konvoluční vrstvy, což výrazně snižuje …
Trénink smíšené přesnosti
Definition
Trénink smíšené přesnosti (MPT) kombinuje datové typy poloviční přesnosti (FP16) a plné …
Meta-learning
Definition
Meta-learning se zaměřuje na navrhování algoritmů, které se mohou učit z předchozích …
Regulace matic
Definition
Regulace matic rozšiřuje koncepty skalární regulace na matice, často používané v …
Hypotéza o loterii
Definition
Hypotéza o loterii naznačuje, že uvnitř velké, náhodně inicializované neuronové sítě …
Lokální vzorkování případů a kontrol
Definition
Lokální vzorkování případů a kontrol je strategie používaná především při trénování …
Učící se automat
Definition
Tento koncept pochází z posilovacího učení a zahrnuje agenta interagujícího s neznámým …
Normalizace vrstvy
Definition
Normalizace vrstvy stabilizuje trénink snížením vnitřního posunu kovariance, což je …
Knowledge Compilation
Definition
Knowledge Compilation označuje techniky v umělé inteligenci, které převádějí znalostní …
Knowledge Distillation
Definition
Knowledge Distillation je metoda strojového učení používaná ke kompresi velké, složité …
Výběr instancí
Definition
Výběr instancí má za cíl zlepšit výpočetní efektivitu a výkon modelu odstraněním …
Incremental Heuristic Search
Definition
Incremental Heuristic Search označuje algoritmy, které krok za krokem zdokonalují …
Imatrix
Definition
Imatrix, zkratka pro Importance Matrix (Matice důležitosti), je technika primárně spojená …
Ladění hyperparametrů
Definition
Ladění hyperparametrů zahrnuje hodnocení různých sad hyperparametrů s cílem najít …
Optimalizace hyperparametrů
Definition
Optimalizace hyperparametrů (HPO) označuje širší obor automatizace výběru hyperparametrů. …
Hierarchická riziková parita
Definition
Hierarchická riziková parita (HRP) je metoda konstrukce portfolia, která řeší omezení …
Akumulace gradientů
Definition
Tato optimalizační strategie umožňuje trénovat hluboké učebné modely s efektivními …
GLM MoE DSA
Definition
Neexistuje žádný standardní termín ‘GLM MoE DSA’. Pravděpodobně však …
GGUF
Definition
GGUF (GPT-Generated Unified Format) je binární formát souboru navržený specificky pro běh …
FP8
Definition
Float Point 8 (FP8) je číselný datový typ, který nabízí rovnováhu mezi výpočetní …
Aproximace fitness
Definition
Aproximace fitness se používá v evolučním výpočtu, když je vyhodnocení skutečné funkce …
Dolažený (Fine-tuned)
Definition
Dolování (fine-tuning) označuje techniku, při které se vezme model již natrénovaný na …
Hashování funkcí
Definition
Hashování funkcí, také známé jako hashovací trik, umožňuje strojovým učícím se modelům …
Měřítko funkcí
Definition
Měřítko funkcí standardizuje rozsah vstupních proměnných, aby se zabránilo dominanci …
Inženýrství příznaků
Definition
Inženýrství příznaků je umění využití odborných znalostí k transformaci surových dat na …
Dilema průzkumu a využití
Definition
V procesech rozhodování čelí agentům kompromis: mohou využít aktuálních znalostí pro …
Extrémální optimalizace
Definition
Na rozdíl od genetických algoritmů, které udržují populaci, EO pracuje s jediným řešením. …
Evolvnost
Definition
V výpočetním kontextu evolvnost označuje, jak snadno může algoritmus nebo architektura …
Minimalizace empirického rizika
Definition
Minimalizace empirického rizika (ERM) je standardní cílová funkce pro trénování modelů …
EfficientNet
Definition
Vyvinutá společností Google využívá EfficientNet metodu kompozitního škálování k vyvážení …
Inference na okraji sítě
Definition
Tato praxe zahrnuje nasazení vycvičených modelů AI přímo na hardware, jako jsou chytré …
Early Stopping
Definition
Early stopping je forma regularizace používaná především v iterativních procesech …
EM algoritmus a model GMM
Definition
Tento termín označuje synergický vztah mezi algoritmem Expectation-Maximization (EM) a …
Diferenciálně soukromý stochastický gradientní sestup
Definition
DP-SGD je varianta Stochastického gradientního sestupu navržená k ochraně soukromí …
Diffusers: LTX Pipeline
Definition
LTX pipeline je přizpůsobena modelům, které upřednostňují rychlost a efektivitu v …
Prořezávání rozhodovacích stromů
Definition
Prořezávání je metoda používaná k prevenci přeučení (overfitting) u modelů rozhodovacích …
Metoda křížové entropie
Definition
Metoda křížové entropie (CEM) je výkonný obecný optimalizační algoritmus používaný pro …
Strojové učení citlivé na náklady
Definition
Strojové učení citlivé na náklady rozšiřuje tradiční učení s učitelem přiřazováním …
Kontrastní učení
Definition
Kontrastní učení je metoda učení reprezentací, která nevyžaduje označená data. Funguje …
Komprimované tenzory
Definition
Komprimované tenzory jsou vícerozměrná pole používaná v hlubokém učení, kde byla snížena …
Výpočetní heuristická inteligence
Definition
Výpočetní heuristická inteligence zahrnuje algoritmy, které používají osvědčené postupy, …
Oříznutí (Clipping)
Definition
V inženýrství hlubokého učení se oříznutí běžně aplikuje na gradienty, aby se zmírnil …
Mezipaměť
Definition
V inženýrství AI optimalizuje mezipaměť výkon tím, že uchovává nedávné nebo časté …
Bayesovská optimalizace
Definition
Bayesovská optimalizace používá pravděpodobnostní model náhrady, obvykle Gaussovský …
Velikost dávky
Definition
Velikost dávky je kritickým hyperparametrem, který určuje, kolik vzorků je zpracováno …
Batch normalizace
Definition
Tato metoda upravuje a škáluje aktivace tak, aby měly nulovou střední hodnotu a jednotný …
AlphaChip
Definition
AlphaChip je specializovaný systém AI navržený k automatizaci a vylepšování umístění a …
Výběr algoritmu
Definition
Výběr algoritmu zahrnuje vyhodnocení různých výpočetních přístupů s cílem určit, který z …
Přípustná heuristika
Definition
V problémech hledání cesty poskytuje přípustná heuristika dolní mez skutečných nákladů na …
Accelerated Linear Algebra
Definition
Toto odvětví se zaměřuje na zrychlení základních výpočtů lineární algebry, které jsou …
A/B testování
Definition
A/B testování je randomizovaný kontrolovaný experiment, ve kterém se porovnávají dvě …
Reziduální připojení
Definition
Reziduální připojení, známá také jako přeskoková připojení (skip connections), umožňují …
Kvantizace
Definition
Kvantizace převádí čísla vysoké přesnosti (např. FP32) na formáty nižší přesnosti (např. …
QLoRA
Definition
QLoRA kombinuje nízkorangovou adaptaci (LoRA) s 4bitovou kvantizací, což výrazně snižuje …
Rychlost učení
Definition
Rychlost učení určuje, o kolik se váhy modelu aktualizují vzhledem k vypočtenému …
Gradientní sestup
Definition
Gradientní sestup je iterativní optimalizační algoritmus prvního řádu pro nalezení …
Distribuované trénování
Definition
Distribuované trénování urychluje konvergenci modelu paralelizací výpočtů přes více GPU …
Adaptér
Definition
Adaptéry jsou technikou efektivního doladění parametrů používanou především u velkých …
specifický pro úkol
Definition
Specifický pro úkol označuje modely AI nebo komponenty přizpůsobené k excelenci v úzké …
one-step
Definition
V strojovém učení a optimalizaci metody typu one-step řeší problémy přímo, aniž by …
prvního řádu
Definition
V umělé inteligenci a matematice ‘prvního řádu’ obvykle popisuje systémy nebo …
doladěný
Definition
Doladění zahrnuje vzít model, který již byl trénován na velké, obecné datové sadě, a …
Ladění
Definition
Ladění zahrnuje zdokonalování modelu strojového učení pro dosažení lepší přesnosti nebo …
Přenosné učení
Definition
Přenosné učení využívá předtrénované modely k zlepšení výkonu a snížení času tréninku na …
Směřovat k
Definition
Ve vývoji AI ‘směřovat k’ často popisuje trajektorii procesů optimalizace, …
Škálování
Definition
Škálování je aktivní metodologie rozšiřování systémů AI přidáváním dalších vrstev, …
Rychlost / Měrná veličina
Definition
V AI se termín ‘rate’ nejčastěji vztahuje na rychlost učení, což je …
Optimální
Definition
V umělé inteligenci a teorii optimalizace je optimálním řešením takové, které dosahuje …
Ztrátová funkce (Loss)
Definition
Ztrátové funkce, také známé jako nákladové funkce, měří, jak dobře predikce modelu …
LoRA
Definition
LoRA zamrazí předtrénované váhy modelu a vloží trainovatelné matice rozkladu do každé …
Globální
Definition
Výraz „globální“ v AI obvykle kontrastuje s „lokálním“ a odkazuje na aspekty, které …
Rychlost
Definition
Termín ‘rychlost’ popisuje výpočetní efektivitu v modelech umělé inteligence, …
Efektivní
Definition
Efektivita je kritickým metrikem v umělé inteligenci, který měří, jak dobře model nebo …
Destilace
Definition
Tento proces zahrnuje přenos znalostí ze složitého, vysoce výkonného neuronového sítě …
Divergence
Definition
V kontextu optimalizace dochází k divergenci, když se parametry modelu aktualizují …
Kombinování
Definition
Tento koncept zahrnuje metody, jako je ensemblové učení, kde se předpovědi z několika …
Adam
Definition
Adam (Adaptive Moment Estimation) je populární optimalizační algoritmus prvního řádu …
Doladění (Fine-tuning)
Definition
Doladění zahrnuje vzít model již trénovaný na velké, obecné datové sadě a dále ho …
Inženýrství promptů
Definition
Inženýrství promptů zahrnuje vytváření specifických vstupů, známých jako prompty, aby se …