上下文窗口:AI 的短期记忆
上下文窗口决定了 AI 一次能「看见」多少内容。理解它的边界,才能理解为什么对话会变笨、长文档该怎么喂。
一、窗口是什么
上下文窗口(context window)是模型一次对话能装载的全部内容:你的每一条消息、它的每次回答、上传的文档,全部加在一起,不能超过这个容量。可以把它想象成一张有限大的桌子——所有材料都得摊在桌上,模型才能同时看见。
二、对话越长,AI 越笨的原因
当对话接近窗口上限时,系统会悄悄丢掉最早的内容。于是出现了那个经典现象:聊了很久之后,AI「忘了」你最开始提的要求。它不是记性变差,是桌子上的旧材料被收走了。
| 场景 | 发生的事 | 你的对策 |
|---|---|---|
| 长对话到后半段 | 早期要求被挤出窗口 | 关键要求重申,或开新对话 |
| 一次塞入超长文档 | 内容被截断或压缩 | 分章节喂,先给目录 |
| 多文件交叉分析 | 窗口被占满,细节丢失 | 先让 AI 做摘要,再基于摘要工作 |
三、喂长材料的正确顺序
- 先给地图。把文档结构(目录、章节标题)发给 AI,让它建立整体框架。
- 再给正文。按章节分批发送,每批附上「这批内容在整体中的位置」。
- 让它复述约束。开始任务前,要求 AI 用一句话确认它理解的规则。
- 阶段性落盘。每完成一部分,把结论保存下来,作为下一段对话的新起点。
常见误区
「窗口大 = 可以无限聊」。即使窗口足够大,注意力也会随内容增多而稀释——重要信息请放在消息的开头或结尾,别埋在中间。
本节小结
- 上下文窗口 = 一次对话能装入的全部内容,桌子有限大。
- 长对话变笨是内容被挤出的结果,重申关键要求即可缓解。
- 喂长文档:先目录后正文,分批进行,阶段落盘。
AI 认知