上下文通胀:中位数 128K,但你真正需要的可能只有 16K

先记住这三点

  1. 窗口中位数 128K,128K 一档塞了 14 款(近一半);最大 2M 是最小 32K 的 62.5 倍,但 ≥256K 的只有 12 款(37.5%)。
  2. 窗口与价格 r=0.41、R²=0.17:同样 256K,价格从 ¥1.2(Flash)到 ¥18(Max)相差 15 倍——窗口长短不是价格锚点,能力档位才是。
  3. 名义窗口 ≠ 有效深度:有效率为 38%–68%,过半模型的有效深度落在 130–175K;2M 的 Kimi 有效深度 780K,多出来的那截基本买不到。

2026 年的多模态模型发布会,如果不报一个上下文长度,几乎不完整。32 款国产模型的窗口从 32K 一路摆到 2M,数值跨度 62.5 倍。但窗口是所有规格里最像“标称功率”的一个:名义值和你能真正用到的深度,是两件事。

这篇文章做三件事:清点 32 款的窗口分布、把“名义窗口”与“有效深度”分开计价、回答一个采购问题——你该花多少钱买多余的窗口。

一、窗口分布:中位数 128K,只有 12 款到 256K 以上

把 32 款的名义窗口排成直方图(Qwen3.5 记 256K 原生、可扩 1M;WITA-Omni 未公开):

窗口档 款数 代表模型
2M 1 Kimi K3
1M 2 Qwen3.8-Max、MiMo-V2.5
512K 1 MiniMax M2.5
400K 1 GLM-5.3
256K 7 Qwen3.5-397B、Qwen3.8-Flash、LongCat-Next、InternVL 4.0、Keye-VL-2.0、Step-3、百灵 Ling 2
200K 1 GLM-5
128K 14 豆包 Seed 2.0 Pro、SenseNova、ERNIE、Hunyuan、Spark、DeepSeek-V4.1-Flash、盘古、观澜、从容、紫东太初、伏羲、言犀等
96K 1 面壁 MiniCPM-V 4.5
64K 2 DeepSeek-OCR 2、BAGEL-2
32K 1 Qwen3-Omni-30B
未公开 1 智元 WITA-Omni

三个数:中位数 128K;最大 2M(Kimi K3)是最小 32K(Qwen3-Omni-30B)的 62.5 倍;≥256K 的只有 12 款(37.5%),≤128K 或未公开的占 19 款(59.4%)。

值得注意的是 128K 这一档塞了 14 款——接近一半。2026 年的“标准窗口”其实是 128K,2M 只是极少数产品线的竞赛项目。

二、窗口与价格几乎无关:r = 0.41,但被三个异常值抬高

把 26 款有价模型的名义窗口与输出单价做相关(去掉了 6 款无公开定价的模型):

  • 皮尔逊 r = 0.41,R² = 0.17——窗口只能解释 17% 的价格方差;
  • 最低价档(¥0.6–1.2)里有 128K 的 DeepSeek-V4.1-Flash、256K 的 Qwen3.8-Flash、256K 的 InternVL 4.0、64K 的 DeepSeek-OCR 2;
  • 最高价档里,Kimi K3 是 2M 卖 ¥16,Pangu 5.5 是 128K 卖 ¥20。

窗口不是定价锚点。 真正决定价格的是能力档位(见价格断层)与模态覆盖,窗口只是一个“可以顺带宣传”的规格。把窗口当成“更贵=更长”的证据,会系统性地买错。

一个更有用的视角是反过来问:同一个窗口长度,不同价格带买到的是什么? 同样是 256K,Qwen3.8-Flash 卖 ¥1.2、Keye-VL-2.0 卖 ¥2、百灵 Ling 2 卖 ¥5、Qwen3.5-397B 卖 ¥12、Qwen3.8-Max 卖 ¥18(1M)——同样长的窗口,价格相差 15 倍,差别全在能力与模态,不在长度。

三、名义窗口 vs 有效深度

这是这篇文章真正的重点。“支持 1M 上下文”和“能在 1M 里准确定位第 500K 位置的那句话”是两件事。行业里叫“迷失在中间”(lost in the middle):模型对文档开头和结尾的信息召回最好,中段的召回明显衰减。

本站定义有效深度 = 在长文档的 40%–60% 位置插入关键信息后,仍能被 ≥90% 概率正确引用的最大输入长度。对 12 款 ≥256K 的模型逐一桌面评估:

模型 名义窗口 有效深度 有效率
Kimi K3 2M 780K 38%
Qwen3.8-Max 1M 520K 52%
MiMo-V2.5 1M 410K 41%
MiniMax M2.5 512K 300K 59%
GLM-5.3 400K 255K 64%
Qwen3.5-397B 256K 175K 68%
Keye-VL-2.0 256K 160K 63%
LongCat-Next 256K 150K 59%
Step-3 256K 145K 57%
Qwen3.8-Flash 256K 140K 55%
百灵 Ling 2 256K 135K 53%
InternVL 4.0 256K 130K 51%

读法选择性看:

  • 名义 2M 的 Kimi K3,有效深度 780K——它的窗口有 61% 是名义的。 这不否定它是最长的模型,只说明“2M”要打折读。
  • 有效率的行列并不单调。 名义越大,有效率反而越低:512K 的 MiniMax 有效率 59%,2M 的 Kimi 只有 38%。原因不是芯片,是长窗口里“中段召回”这件事的训练数据密度随长度递减。
  • 过半模型的有效深度落在 130K–175K 区间。 也就是说,“256K”这一档的实际可用深度,普遍与 128K 档相差不到 40K——多出来的那一截,大部分买不到。

四、逆向问题:你的任务真的需要多长?

窗口的采购决策应该从任务长度倒推,而不是从模型规格顺手带。

任务形态 典型输入量 需要的窗口档
单张票据/证件结构化 1–2K 8K 足够
一页图文混排 + 追问 3–8K 16K
60 页合同或研报全读 40–60K 64K(留 2 倍余量)
200 页招股书/整册手册 120–180K 256K 有效深度 ≥200K
2 小时长视频抽帧 + 时序问答 200–800K 需 TTA 而非窗口(见下)

注意最后一行:长视频需要的不是“更长的窗口”,是时序容错曲线里的 TTA。把 2 小时视频塞进 2M 窗口,模型可能答得出“发生了什么”,但答不出“第几分第几秒发生”。窗口长度解决“装得下”,不解决“定位得准”。

再往前一步:一份 60 页合同(40–60K)的任务,用 256K 窗口的模型并不会更好——多出来的 200K 你付了钱、付了延迟,却没换来准确率。 长上下文的成本是真实的:首 token 延迟与 KV cache 显存随长度上升,长窗口的每次请求都更贵(这正是每千张图成本里“大输入小输出”场景需要单独算账的原因)。

五、采购读法

  1. 先写任务输入量,再选窗口档。 大多数中文业务落在 8K–64K;只有整册文档与长视频才真的需要 ≥256K。
  2. 把“有效深度”写进 POC 指标。 用你自己的文档,把关键信息放在 40%–60% 位置做“大海捞针”,记录成功率——名义窗口的数字没有验收价值。
  3. 区分“原生”与“可扩”。 Qwen3.8-Max 是原生 256K 可扩 1M,Qwen3.5 是原生 256K 可扩 1M——“可扩”依赖推理侧配置(如 RoPE 外推),实际有效深度往往低于名义值。
  4. 不要为窗口付旗舰溢价。 128K 档里的 DeepSeek-V4.1-Flash(¥0.6)能覆盖绝大多数文档任务;需要 256K 有效深度时才上更高档位。

边界

  • 有效深度是本站自建桌面评估,方法写在正文里,样本与超参会影响结论;它不是封闭实验室复现,与公开的 RULER / NIAH 版本分数不可直接互换。
  • 窗口不是唯一变量。 抽帧策略、分块与检索方案对长文档表现的影响,往往大于窗口本身;长视频那篇已经证明上下文长度与 TTA 的相关性低于抽帧策略。
  • 2M 与 32K 的差距在特定任务里是真的。 本文不否认长窗口的价值,只否认“长窗口 = 更强”这一默认假设。
  • 价格取标准价。 阶梯折扣、缓存命中和批量优惠会改变长窗口的实际成本结构。

复现

窗口分布与有效深度表以站内模型数据的 context 字段为输入,有效深度按“中段召回 ≥90%”定义;相关性与 R² 用 26 款有价模型直接计算。

如果这篇文章只留下一句话:买有效深度,不买名义窗口;先量你的任务有多长,再看模型有多能装。

关于本文的常见问题

有效深度是怎么测的?

在长文档 40%–60% 位置插入关键信息,仍被 ≥90% 概率正确引用的最大输入长度。它是本站自建桌面评估,不是封闭实验室复现,与公开的 RULER / NIAH 版本分数不可直接互换。

我需要为 2M 窗口付钱吗?

只有极少数任务(整年财报、整册手册、长视频)接近那个量级。一份 60 页合同约 40–60K;用 256K 窗口的模型处理它并不会更准——多出来的部分你付了钱和延迟,却没换来准确率。

国产多模态天梯榜 · 编辑部 — 独立评测项目,与所涉厂商无隶属或赞助关系。评分方法、权重与证据等级全部公开;发现事实错误请通过关于页面联系,我们会在更新日志中记录订正。

引用格式:国产多模态天梯榜. (2026). 上下文通胀:中位数 128K,但你真正需要的可能只有 16K. 2026cnmllmtierlist.com