Śledzenie
term_id: tracing
Category: engineering_practice
Definition
W kontekście inżynierii AI śledzenie obejmuje przechwytywanie szczegółowych logów dotyczących przepływu danych przez model lub aplikację, w tym wejść, wyjść, opóźnień i zużycia zasobów na każdym etapie. Pozwala to na pełną widoczność działania systemu.
Summary
Śledzenie to technika rejestrująca ścieżkę wykonania oraz pośrednie stany programu lub wnioskowania modelu AI, ułatwiająca debugowanie i optymalizację wydajności.
Key Concepts
- Ścieżka wykonania
- Pomiar opóźnień
- Debugowanie
- Obserwowalność
Use Cases
- Debugowanie łańcuchów promptów LLM
- Optymalizacja opóźnień wnioskowania
- Audyt decyzji modelu