černá skříňka
term_id: black_box
Category: basic_concepts
Definition
V umělé inteligenci se termín model černé skříňky vztahuje na složité systémy, jako jsou hluboké neuronové sítě, kde je vnitřní logika rozhodování neprůhledná a pro lidi obtížně interpretovatelná. Ačkoli tyto modely často dosahují vysoké přesnosti…
Summary
Systém, kde jsou vnitřní mechanismy skryty a pozorovatelné jsou pouze vstupy a výstupy.
Key Concepts
- Interpretovatelnost
- Neprůhlednost
- Mapování vstup-výstup
- Vysvětlitelná AI (XAI)
Use Cases
- Modely hlubokého učení
- Proprietární algoritmy
- Složité prediktivní systémy