Minimizarea riscului structural
Definition
Minimizarea riscului structural (SRM) este o metodă de minimizare a riscului așteptat …
Optimization
Terms tagged with Optimization
Regularizarea sparsității structurate
Definition
Regularizarea sparsității structurate extinde regularizarea L1 standard, încurajând …
Îndoire semantică
Definition
Îndoirea semantică se referă la procesul de comprimare a încorporărilor vectoriale …
Trick-ul de reparametrizare
Definition
Trick-ul de reparametrizare este o metodă fundamentală utilizată în autoencoderii …
Regularizare
Definition
Regularizarea este un concept crucial în învățarea automată, conceput pentru a reduce …
Caracteristică aleatorie
Definition
Hărțile de caracteristici aleatorii transformă intrările într-un spațiu nou, unde …
Cuantizat
Definition
Cuantizarea este o tehnică de optimizare a modelelor care reduce precizia numerică a …
Ajustarea prompturilor (Prompt Tuning)
Definition
Ajustarea prompturilor implică adăugarea de prompturi antrenabile (vectori continui) la …
Metode de gradient proximal pentru învățare
Definition
Metodele de gradient proximal sunt tehnici iterative de optimizare utilizate atunci când …
PagedAttention
Definition
PagedAttention este o tehnică introdusă de proiectul vLLM pentru a îmbunătăți eficiența …
OpenVINO
Definition
Dezvoltat de Intel, OpenVINO (Open Visual Inference and Neural network Optimization) …
Mxfp4
Definition
MXFP4 (Mixed eXtended Floating Point 4-bit) este un format de tip de date specializat …
Metoda de actualizare multiplicativă a ponderilor
Definition
Metoda de actualizare multiplicativă a ponderilor este un algoritm fundamental de …
Multi-task Learning
Definition
Această tehnică valorifică bias-ul inductiv partajat între sarcinile conexe pentru a …
Compresia modelului
Definition
Această categorie include metode precum tăierea (pruning), cuantizarea și distilarea …
MobileNet
Definition
MobileNets utilizează convoluții separabile în adâncime pentru a reduce drastic costul …
Antrenament cu precizie mixtă
Definition
Antrenamentul cu precizie mixtă (MPT) combină tipurile de date cu precizie semi (FP16) și …
Învățare meta
Definition
Învățarea meta se concentrează pe proiectarea algoritmilor care pot învăța din sarcini …
Regularizare matricială
Definition
Regularizarea matricială extinde conceptele de regularizare scalară la matrici, fiind …
Eșantionare locală caz-control
Definition
Eșantionarea locală caz-control este o strategie utilizată în principal pentru antrenarea …
Ipoteza biletului de loterie
Definition
Ipoteza Biletului de Loterie sugerează că, într-o rețea neuronală mare, inițializată …
Automat de învățare
Definition
Acest concept provine din învățarea prin reforțare și implică un agent care …
Normalizare pe straturi
Definition
Normalizarea pe straturi stabilizează antrenamentul reducând schimbarea covarianței …
Compilarea cunoștințelor
Definition
Compilarea cunoștințelor se referă la tehnici în inteligența artificială care convertește …
Distilarea cunoștințelor
Definition
Distilarea cunoștințelor este o metodă de învățare automată utilizată pentru a comprima o …
Selecția instanțelor
Definition
Selecția instanțelor vizează îmbunătățirea eficienței computaționale și a performanței …
Căutare Heuristică Incrementală
Definition
Căutarea Heuristică Incrementală se referă la algoritmi care rafinează o soluție …
Imatrix
Definition
Imatrix, prescurtare de la Importance Matrix (Matricea Importanței), este o tehnică …
Optimizarea hiperparametrilor
Definition
Optimizarea Hiperparametrilor (HPO) se referă la domeniul mai larg al automatizării …
Reglarea hiperparametrilor
Definition
Reglarea hiperparametrilor implică evaluarea diferitelor seturi de hiperparametri pentru …
Paritate Ierarhică a Riscului
Definition
Paritatea Ierarhică a Riscului (HRP) este o metodă de construcție a portofoliului care …
Acumularea Gradientelor
Definition
Această strategie de optimizare permite antrenarea modelelor de învățare profundă cu …
GLM MoE DSA
Definition
Nu există un termen standard unic „GLM MoE DSA”. Cu toate acestea, acesta combină …
GGUF
Definition
GGUF (GPT-Generated Unified Format) este un format de fișier binar conceput specific …
FP8
Definition
Virgula mobilă 8 (FP8) este un tip de date numeric care oferă un echilibru între …
Aproximarea aptitudinii
Definition
Aproximarea aptitudinii este utilizată în calculul evolutiv atunci când evaluarea …
Finetunat
Definition
Finetunarea se referă la tehnica de a lua un model deja antrenat pe un set de date mare …
Amplasarea caracteristicilor prin hash
Definition
Amplasarea caracteristicilor prin hash, cunoscută și sub numele de trucul hash, permite …
Scalarea caracteristicilor
Definition
Scalarea caracteristicilor standardizează intervalul variabilelor de intrare pentru a …
Ingineria Caracteristicilor
Definition
Ingineria caracteristicilor este arta de a exploata expertiza de domeniu pentru a …
Dilema explorare-exploatie
Definition
În procesele de luare a deciziilor, agenții se confruntă cu un compromis: pot exploata …
Optimizare extremală
Definition
Spre deosebire de algoritmii genetici care mențin o populație, EO funcționează pe o …
Evolvabilitate
Definition
În contexte computaționale, evolvabilitatea se referă la cât de ușor poate îmbunătăți un …
Minimizarea riscului empiric
Definition
Minimizarea Riscului Empiric (ERM) este funcția obiectiv standard pentru antrenarea …
EfficientNet
Definition
Dezvoltat de Google, EfficientNet utilizează o metodă de scalare compusă pentru a …
Inferență la marginea rețelei
Definition
Această practică implică implementarea modelelor AI antrenate direct pe hardware, cum ar …
Algoritmul EM și modelul GMM
Definition
Acest termen se referă la relația sinergică dintre algoritmul Expectation-Maximization …
Oprește timpuriu
Definition
Oprește timpuriu este o formă de regularizare utilizată în principal în procesele de …
Descendența Gradientului Stohastic Diferențial Privată
Definition
DP-SGD este o variantă a Descendenței Gradientului Stohastic concepută pentru a proteja …
Diffusers: LTX Pipeline
Definition
Fluxul de lucru LTX este adaptat pentru modelele care prioritizează viteza și eficiența …
Tăierea arborelui de decizii
Definition
Tăierea este o metodă utilizată pentru a preveni suprapotrivirea (overfitting) în …
Metoda entropiei încrucișate
Definition
Metoda Entropiei Încrucișate (CEM) este un algoritm de optimizare puternic și cu …
Învățare automată sensibilă la costuri
Definition
Învățarea automată sensibilă la costuri extinde învățarea supravegheată tradițională …
Învățare Contrastivă
Definition
Învățarea contrastivă este o metodă de învățare a reprezentărilor care nu necesită date …
Inteligență euristică computațională
Definition
Inteligența euristică computațională implică algoritmi care folosesc reguli practice, …
Tensori comprimați
Definition
Tensorii comprimați sunt array-uri multidimensionale utilizate în învățarea profundă, …
Clipare
Definition
În ingineria învățării profunde, cliparea este aplicată comun gradientelor pentru a …
Memorare în cache
Definition
În ingineria IA, memorarea în cache optimizează performanța păstrând rezultatele …
Dimensiunea lotului
Definition
Dimensiunea lotului este un hiperparametru critic care determină câte mostre sunt …
Optimizare bayesiană
Definition
Optimizarea bayesiană utilizează un model surrogate probabilistic, de obicei un Proces …
Normalizare pe loturi
Definition
Această metodă ajustează și scalează activările pentru a avea media zero și varianța …
AlphaChip
Definition
AlphaChip este un sistem AI specializat conceput pentru a automatiza și îmbunătăți …
Selecția algoritmilor
Definition
Selecția algoritmilor implică evaluarea diferitelor abordări computaționale pentru a …
Heuristic admisibil
Definition
În problemele de căutare a drumurilor, un heuristic admisibil oferă o limită inferioară …
Algebră Liniară Accelerată
Definition
Acest domeniu se concentrează pe accelerarea calculurilor fundamentale de algebră …
Testare A/B
Definition
Testarea A/B este un experiment controlat și randomizat în care se compară două variante, …
Conexiune Reziduală
Definition
Conexiunile reziduale, cunoscute și sub denumirea de conexiuni skip (de ocolire), permit …
Cantizare
Definition
Cantizarea convertește numerele cu virgulă mobilă de înaltă precizie (cum ar fi FP32) în …
QLoRA
Definition
QLoRA combină Adaptarea de Rang Scăzut (LoRA) cu cantizarea la 4 biți pentru a reduce …
Rata de învățare
Definition
Rata de învățare determină cât de mult sunt actualizate ponderile modelului relativ la …
Descendența gradientului
Definition
Descendența gradientului este un algoritm iterativ de ordinul întâi pentru găsirea unui …
Antrenament Distribuit
Definition
Antrenamentul Distribuit accelerează convergența modelului prin paralelizarea calculului …
Adaptor
Definition
Adaptorii sunt o tehnică de finetuning eficientă din punct de vedere al parametrilor, …
specific sarcinii
Definition
Termenul „specific sarcinii” se referă la modele sau componente de IA adaptate pentru a …
one-step
Definition
În învățarea automată și optimizare, metodele one-step rezolvă problemele direct, fără a …
de ordinul întâi
Definition
În inteligența artificială și matematică, termenul „de ordinul întâi” descrie de obicei …
fin ajustat
Definition
Ajustarea fină implică preluarea unui model care a fost deja antrenat pe un set de date …
Ajustare (Tuning)
Definition
Ajustarea implică rafinarea unui model de învățare automată pentru a obține o acuratețe …
Învățare prin transfer
Definition
Învățarea prin transfer utilizează modele preantrenate pentru a îmbunătăți performanța și …
Către
Definition
În dezvoltarea IA, ‘către’ descrie adesea traiectoriile proceselor de …
Extindere
Definition
Extinderea este metodologia activă de expansiune a sistemelor AI prin adăugarea mai …
Rată
Definition
În IA, „rată” se referă cel mai frecvent la rata de învățare, un hiperparametru care …
Optimal
Definition
În IA și teoria optimizării, o soluție optimă este cea care atinge cea mai înaltă metrică …
Funcție de pierdere
Definition
Funcțiile de pierdere, cunoscute și sub funcții de cost, măsoară cât de bine se potrivesc …
LoRA
Definition
LoRA îngheață ponderile modelului pre-antrenat și inserează matrici antrenabile de …
Global
Definition
Termenul „global” în inteligența artificială contrastează de obicei cu „local”, …
Rapid
Definition
Termenul „rapid” descrie eficiența computațională în modelele de inteligență artificială, …
Eficient
Definition
Eficiența este o metrică critică în inteligența artificială care măsoară cât de bine …
Distilare
Definition
Acest proces implică transferul cunoștințelor de la o rețea neuronală …
Divergență
Definition
În contextul optimizării, divergența apare atunci când parametrii unui model se …
Combinare
Definition
Acest concept cuprinde metode precum învățarea ensemblă, unde predicțiile mai multor …
Adam
Definition
Adam (Adaptive Moment Estimation) este un algoritm popular de optimizare de ordinul întâi …
Afinare fină
Definition
Afinarea fină implică luarea unui model deja antrenat pe un set de date mare și general, …
Ingineria Prompturilor
Definition
Ingineria prompturilor implică elaborarea unor intrări specifice, cunoscute sub numele de …