长上下文

term_id: long

Category: basic_concepts

Definition

在人工智能语境中,“长”通常描述处理大量输入的能力,如长文档或冗长的视频流。对于大语言模型而言,这涉及管理长上下文窗口,以保持对完整输入的理解和一致性。

Summary

通常指扩展的数据序列,例如自然语言处理模型中的长上下文窗口。

Key Concepts

  • 上下文窗口
  • 序列长度
  • 注意力机制
  • 内存管理

Use Cases

  • 文档摘要
  • 长篇幅内容生成
  • 代码库分析