追踪

term_id: tracing

Category: engineering_practice

Definition

在AI工程背景下，追踪涉及捕获数据在模型或应用程序中流动的详细信息日志，包括每一步的输入、输出、延迟和资源使用情况。这有助于全面监控系统的运行状况。

Summary

追踪是一种记录程序或AI模型推理过程中的执行路径和中间状态的技术，旨在辅助调试和性能优化。

Key Concepts

执行路径
延迟测量
调试
可观测性

Use Cases

调试大语言模型（LLM）提示链
优化推理延迟
审计模型决策过程