1. 一句话结论
如果只想要一个起点:纯长文档(报告、书、资料)可先测试 Gemini 3.1 Pro;中文长文档也可测试 Kimi K3;如果是大代码库、要跨文件追调用、边读边改的多步任务,选推理更强的 Claude Opus 5 或 GPT-5.6 配工具检索。
但比“选谁”更重要的是先建立一个认知:模型宣称的窗口是上限,不是保证。社区里对超长上下文最常见的吐槽就是“越长越笨”“1m 的还没 200k 的聪明”。理解了这一点,你才不会犯“把整本书一次塞进去然后怪它答非所问”的错。
2. 按场景选型表
先按你手头的活对号入座。长文档、代码库、长对话吃的能力不一样:
| 场景 | 建议主力 | 说明 |
|---|---|---|
| 单篇长文档(报告/论文/合同) | Gemini 3.1 Pro | 召回强,抓得住中间段落 |
| 整本书 / 超长中文材料 | Kimi K3、Gemini 3.1 Pro | Kimi 中文长文更顺 |
| 大代码库 / 跨文件分析 | Claude Opus 5、GPT-5.6 | 多步推理 + 工具检索更靠谱 |
| 长对话不失忆 | Claude Opus 5、Kimi K3 | 定期总结记忆、清历史 |
| 本地跑不动 / 爆内存 | 云端 Qwen3.7 Max 等 | 长上下文放云端,省本地显存 |
3. 先搞懂:宣称窗口 ≠ 有效上下文
这是长上下文选型里最关键、也最容易被忽略的一点。厂商标的“128K/1M 窗口”指的是模型最多能接收多少 Token,但“能接收”不等于“能用好”。大量测评和实际使用都指向同一个现象:超过某个长度后,模型对信息的召回会明显下滑。
- “大海捞针”会退化:把一句关键信息埋进长文本再提问,长度越长命中率越低。公开长上下文测评显示,输入变长后召回可能明显下降——窗口远没用满就已经开始丢信息。
- “中间被忽略”:模型对开头和结尾记得清楚,对正中间的内容最容易漏,社区叫它“lost in the middle”。关键信息夹在长文档中段,最危险。
- “越用越脏”:上下文里塞的无关内容越多,模型越容易被干扰、跑偏,也就是“context rot”“变笨”。这也是长对话聊久了开始自相矛盾、“失忆”的原因。
结论很实际:别把宣称窗口当承诺,够用就好、精简优先。与其把一百万 Token 塞满,不如只喂真正相关的那几千字——干净的短上下文,往往比塞满的长上下文答得准。
4. 四维横向对比:窗口大小只是其一
长上下文选型看四个维度:有效上下文能撑多长、大海捞针召回准不准、跨文件/多步推理行不行、中文长文顺不顺。把主力候选放一起,大致是这样一张图(★越多越突出,为社区体感归纳,非精确跑分):
| 模型 | 有效上下文 | 大海捞针召回 | 多步推理/跨文件 | 中文长文 | 一句话定位 |
|---|---|---|---|---|---|
| Gemini 3.1 Pro | ★★★★★ | ★★★★★ | ★★★★ | ★★★★ | 长文档/大海捞针王 |
| Kimi K3 | ★★★★ | ★★★★ | ★★★★ | ★★★★★ | 中文长文档最顺 |
| Claude Opus 5 | ★★★★ | ★★★★ | ★★★★★ | ★★★★ | 多步推理/边读边改 |
| GPT-5.6 | ★★★★ | ★★★★ | ★★★★★ | ★★★★ | 综合强,代码库好用 |
| Qwen3.7 Max | ★★★★ | ★★★★ | ★★★★ | ★★★★ | 云端省内存,稳 |
| DeepSeek V4 Pro | ★★★ | ★★★ | ★★★★ | ★★★★ | 便宜,但长对话易失忆 |
看这张表别只盯“有效上下文”那一列。长文档缺的是召回,选 Gemini/Kimi;代码库缺的是跨文件推理,选 Claude/GPT;预算紧、内容不算太长,DeepSeek 也够用,只是别指望它撑超长对话。
5. 主力模型逐个看
Gemini 3.1 Pro:长文档和大海捞针的候选
要在长文本里“找针”,Gemini 是社区经常讨论的候选——超长窗口配上相对更抗退化的召回,适合读长报告、跨多份文档比对和从大段材料里抓关键点。实际表现仍需按文档类型和分段策略验证。当然,前提还是别把窗口塞爆,相关内容优先。
Kimi K3:中文长文档最顺手
处理中文的长材料——书、长报告、大段资料——Kimi 系列一直有口碑,中文表达顺、长文里不容易丢重点。要读的是中文超长文本,K3 值得优先试。
Claude Opus 5 / GPT-5.6:代码库和多步任务
大代码库分析和纯长文档不是一回事:代码库要跨文件追调用、理依赖、边读边改,吃的是多步推理和工具配合。Claude Opus 5 在这类“需要连续几步都不掉链子”的任务上很强(早期 Claude 的长文检索一度偏弱,新版已明显补上);GPT-5.6 综合能力强,配检索工具处理代码库也顺手。
DeepSeek / Qwen:省钱与省内存
DeepSeek V4 Pro 便宜,处理不算太长的材料够用,但社区提醒它在长对话里容易“失忆”,聊久了前面说的会忘。Qwen3.7 Max 的价值之一是“放云端跑”——本地跑大模型分析长文常常爆显存、崩掉,云端 API 直接绕开这个问题。
6. 长文档、代码库、RAG 怎么配合
三种典型场景,方法不太一样:
- 单篇长文档:能精简就精简。先让模型出一版分段摘要,再针对你关心的部分追问,比一次性丢全文再提问召回更稳。关键问题把相关段落单独拎出来喂,命中率最高。
- 大代码库:别指望把整个仓库塞进窗口。更实际的是配工具检索——按需读相关文件、追调用链,让强推理模型(Claude/GPT)一步步分析,而不是一次性灌进去。
- 需要反复查的知识库:这时 RAG(先检索、只喂命中的片段)比硬堆长上下文更划算也更准。注意 RAG 和长上下文不是二选一:常见做法是 RAG 负责“找对片段”,长上下文负责“把找到的片段一起理解”,两者配合。
验证方法也很直接:拿你真实的长材料,埋一个只有读全文才知道的细节,让候选模型回答,同时问一个需要综合前后文的问题。盯四个点:中间段落的细节答不答得出、有没有前后自相矛盾、长度加大后准确率掉多少、同一问题问三次稳不稳定。你会很快发现“窗口大”和“答得准”经常不是一回事。
7. 四个最常见的坑
坑一:只看宣称窗口
“1M 窗口”是营销上限,不是能力保证。看的是有效上下文和召回,而不是标称数字,很多时候“越长越笨”。
坑二:整本书/整个仓库一次塞进去
塞满窗口会触发“lost in the middle”和“context rot”,模型漏中间、被干扰。只喂相关部分,或先检索再喂。
坑三:长对话不清理历史
聊太久模型会“失忆”、自相矛盾。定期把关键结论压成一段短记忆、清掉无关历史,比硬撑长上下文管用。
坑四:拿别人的价格当本站价
不同中转站倍率不同,社区截图里的单价不代表这里的计费。看倍率怎么算,见 中转站倍率指南;担心被掺水,先做一遍 模型真伪验证。
8. 一个入口切换所有长文本模型
用中转站的好处,是不用为每家模型分别注册、充值。统一的 OpenAI 兼容接口下,切模型只是改一个 model 字段:
curl https://www.codex789.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"MODEL_ID","messages":[{"role":"user","content":"下面是一份长报告,先分段摘要,再回答我关于第 3 节的具体问题:..."}],"stream":false}'把 MODEL_ID 换成密钥页复制的代号即可在 Gemini、Kimi、Claude、GPT 之间切换。接入 Python / Node.js 见 OpenAI 兼容 API 教程;代码库分析可参考 Claude Code 工作流;想先搞懂中转站是什么,看 什么是 AI API 中转站。
9. 常见问题
长文档、长上下文用哪个模型?
Gemini 可作为长文档和跨文件分析的优先候选;中文长文档可测试 Kimi K3;多步推理、边读边改可测试 Claude Opus 5。别只看谁窗口标得大。
模型宣称的上下文窗口能全信吗?
不能。宣称窗口和有效上下文是两码事,上下文变长后,部分模型的召回会明显下滑,也就是“lost in the middle”“越长越笨”。窗口是上限不是保证。
直接把整本书或整个代码库丢进去行不行?
短的可以,长的会“变笨”。超长输入里模型容易忽略中间、抓不住重点。更稳的是只喂相关部分,或用 RAG 先检索再喂。长上下文和 RAG 是配合不是二选一。
长对话越聊越“失忆”怎么办?
早期信息会被稀释导致自相矛盾。定期把关键结论总结成一段短记忆、清掉无关历史再继续;或每轮把必须记住的约束重新带上。
大代码库分析和长文档一样吗?
不完全一样。代码库要跨文件追调用、理依赖,更吃多步推理和检索,Claude/GPT 加工具更合适;纯长文档更吃召回和上下文保持,Gemini 可作为候选。
一个 Key 能切换这些长文本模型吗?
可以。OpenAI 兼容接口改 model 字段即可在 Gemini、Kimi、Claude、GPT 间切,按“长文档还是代码库”选不同模型。
社区证据:“Gemini 长文档/大海捞针最强”“1m 比 200k 还笨、越长越笨”“lost in the middle / context rot / 失忆 / 变笨 / 本地爆内存”“Claude 早期长文检索偏弱、新版补上”“DeepSeek 长对话易失忆”“云端 Qwen 省显存”,以及召回随长度下滑(如 8K→16K 明显下降)等口径,来自 Hacker News 与 V2EX 关于长上下文、大海捞针与 RAG 的公开讨论帖及回复,并参考 NoLiMa 等长上下文测评,经归纳改写。模型能力、价格与代号以官方文档和本站控制台为准。