快，是一种系统能力

——拆解 DeepSeek V4.1 Flash 的"新结构"

9 月 8 日下午三点，DeepSeek 在官方交流群丢出一行消息：V4.1 Flash 中间版本开启内测，deepseek-v4.1-flash-expires-on-0910。

没有发布会，没有技术报告，没有架构图。官方原话只有一句：

采用了新的模型结构，原生多模态支持、能力更强、速度更快、且成本更低。

然后整个中文开发者圈子的第一反应是同一个词：快。

有人形容是"窜稀一样的速度"，有人看着看板上的 496ms 首字延迟发了半天呆，还有人说"瓶颈终于转移到了本地执行"——这句话的分量其实很重，它意味着模型侧已经快到了不再是链路短板。

这篇文章想做的事很简单：在官方只给了六个字的情况下，尽可能严谨地拆一遍"快"是怎么来的，以及哪些解释站得住、哪些只是传说。

一、先量化"快"：三组数据

讨论速度之前，得先把刻度画出来。

第一组，单轮对话。 有开发者用同一句"你好"做了对照：

模型	首 token	输出速度	整轮耗时
V4-Flash	2.3s	120 tok/s	3.0s
V4.1 Flash（内测）	0.3s	267 tok/s	0.8s

第二组，社区峰值。 多人实测输出速度普遍在 300+ tok/s，最高有晒出 507 tok/s 的截图。作为参照，V4-Flash 官方标称是 85ms 首字延迟、155 tok/s。也就是说，实际提升大致落在 2~3 倍这个区间。

第三组，也是我认为最有信息量的一组——端到端任务耗时对比（对 V4-Flash-Vision-Exp）：

49k 超长上下文检索：5.2×
SVG 代码生成：6.0×
Manacher 回文算法题：4.6×
大型 SQL 生成与优化：5.0×
asyncio 异步架构重构：3.9×

这组数据的价值在于：它测的不是 tok/s，而是完成任务的总时间。而 tok/s 只翻了 2~~3 倍，端到端却快了 4~~6 倍——中间那多出来的部分，一定不在"解码速度"里，而在别的地方。

这个差值，就是本文要挖的核心。

二、"新的模型结构"到底新在哪

先交代底子。V4 系列是 MoE 架构：V4-Pro 约 1.6 万亿总参、490 亿激活；V4-Flash 约 2840 亿总参、130 亿激活。V4-Flash 还用了两项 KV 缓存压缩技术（CSA、HCA），官方口径是百万 token 提示词的算力消耗降低约 73%，推理成本降到 V3.2 的 27%，显存占用压到原先的 10%。

在这个基础上，V4.1 Flash 的"新结构"可能动了哪些刀？按可信度从高到低排：

1. 投机解码：最直接、最可信的一刀

有报道称 V4.1 Flash 内置了 DSpark 投机解码模块（这条属于二手信息，待官方证实，但方向合理）。

投机解码（Speculative Decoding）的原理不复杂：用一个小的"草稿模型"一次猜 4~7 个 token，主模型批量验证，接受率超过 90% 就等效提速约 4 倍。它不改模型输出分布——数学上等价，纯粹是拿冗余算力换串行延迟。

这条解释最贴合"速度翻 2~3 倍"的观测值。而且它是纯解码层优化，不需要重训模型，和"中间版本"这个定位高度吻合。

2. 注意力与 KV 缓存：解释"长上下文为什么快"

tok/s 提升解释不了"49k 上下文检索快 5.2 倍"。这一块更可能来自注意力层。

V4 技术报告里提到过面向长上下文效率的 hybrid attention 改动，加上 CSA/HCA 的 KV 压缩。这类优化不直接体现在 tok/s 上，但会显著降低 Prefill 阶段的算力开销——而 Prefill 正是长上下文场景里最贵的那一段。

所以一个合理的推测是：短对话快 in Decode，长上下文快 in Prefill，两者叠加，才有了端到端 4~6 倍这个数字。

3. 原生多模态：从"外挂眼睛"到"生来有眼"

这是本次最确定的定性变化。

V4-Flash-Vision-Exp 的多模态是外挂式的：在 V4-Flash 0731 纯文本底座上，外接一个视觉编码器（约 32 层）加一个对齐器（约 2 层）。相当于先有个文本大脑，再插一双眼睛。

V4.1 Flash 则是原生多模态——视觉编码从预训练阶段就嵌在主干里，图文数据一起喂。带来的好处不只是"少一次模型切换"，更是跨模态联合推理不再有理解断层。

顺带一提，这大概率也是端到端变快的原因之一：过去"读图 + 文本 + 工具调用"是三个串行环节，现在被一个模型吞掉了。

4. 服务端调度：最容易被忽略、也最可能是主因

这里要回到那个数字：缓存命中 94%。

DeepSeek 的峰谷定价体系本身就依赖缓存命中——空闲时段缓存命中输入 0.05 元/百万 token，未命中 1.5 元，差 30 倍。这说明缓存命中率是这套商业模型的命门，而 V4.1 Flash 显然把这块做得更狠了。

再加上连续批处理、Prefill/Decode 分离、长短请求混排调度——这些都不在模型里，在推理系统里。

5. 硬件：昇腾 950DT 到位了吗？

社区里有种说法：快是因为华为昇腾 950DT 开始到货（此前有报道称 DeepSeek 计划部署 16 万颗）。

这条我建议存疑。 按当时的产能推算，普遍认为订单离到货还有相当时间。而且如果真是硬件红利，没理由只给一个两天就过期的内测模型用。

芯片传闻目前只是传闻，不能当事实。 更可能的原因仍然是服务端与架构优化。

三、一个必须泼的冷水：0.3 秒可能是缓存

有个细节值得单独拎出来说。

社区里有人实测"首 token 0.3 秒"，但立刻被另一位答主质疑：在没有上下文的"你好"这种请求上，缓存命中率怎么会那么高？

这个质疑很到位。首字延迟的大头花在 Prefill 阶段，如果缓存命中率高，说明你之前发过一模一样的内容——那么"0.3 秒"测的其实不是模型能力，而是缓存效果。

这不是说 V4.1 Flash 不快（400+ tok/s 的解码速度是实打实的），而是提醒我们：内测期的实测数据样本极小，且测量方法未经校准。 首字延迟这个指标，对缓存状态极其敏感，横评时如果两边缓存状态不一致，结论就不可信。

所以现在网上流传的所有"快了多少倍"，都应该打个折扣看。真正的定论要等正式版 + 统一口径的评测。

四、真正的答案：快是工程，不是参数

把上面五条拼起来，会得到一个不太"性感"但更接近真相的结论：

V4.1 Flash 的"快"，不是某一项黑科技，而是五个层面的叠加——架构层、解码层、调度层、推理框架层、硬件层。

而这里最关键的一点是：除了架构层，其余四层全是工程。

这解释了一件有意思的事——为什么是 DeepSeek？

因为它是"自己种菜的"。从模型架构、KV 压缩、推理框架、CUDA 算子，到 DSec 弹性计算平台（Rust 写的 Apiserver / Edge / Watcher，跑在自研 3FS 上），再到峰谷定价策略，它把整条链路都攥在自己手里。

所以它敢在官方问卷里直接问用户："你觉得这个模型能全面替换线上的 V4 Pro 吗？"

这个问题的潜台词是：如果 Flash 能用 Pro 的价格和速度跑出 Pro 的能力，那才叫真正的降本增效。而这背后压着的，是前 7 个月 110 亿算力投入、4.75 亿营收、净亏 7 个多亿的现实——速度不是炫技，是活下去的必要条件。

同一天放出的 150 人招聘也印证了这点：全部投向服务端开发和 Agent 弹性计算，没有一个 AI 研究岗。 负责人崔添翼的说法是"量的激增引发了复杂度的指数级爆炸"。

这句话翻译一下就是：模型训完了，现在卡在系统上。

五、对构建者的启示

如果你也在做 Agent 工具链——比如在微信里跑多 agent 网关、监听剪贴板做知识管道——V4.1 Flash 这次给的最大启发，可能不是"该换模型了"，而是这三条：

第一，延迟是系统问题，不是模型问题。 400 tok/s 的解码速度下，瓶颈会立刻转移到你的网络链路、序列化开销、本地渲染。有答主说"瓶颈终于到了本地执行"，这句话对每个做 Agent 的人都是预警：别在模型之外的地方浪费掉模型给你的速度。

第二，缓存是免费的加速器，但需要设计。 94% 的缓存命中率不是天上掉的，是 prompt 结构、上下文复用策略设计出来的。你的 memory 注入机制如果每次都拼一个变动的头部，缓存基本就废了。

第三，原生多模态会重构你的链路。 过去"图片 → 视觉模型转文字 → 喂给主 agent"这套两跳方案，现在有机会压成一跳。少一跳不只是快，还少了信息损耗——转文字这个中间环节丢掉的细节，往往正是关键细节。

不过最后提醒一句：这个模型 9 月 10 日就过期，20 并发限制，别写进生产配置。 拿它做压测、验证架构方向，然后等正式版。

结语

回到最开始那个问题：DeepSeek 为什么这么快？

我的答案是：因为它把"快"当成了一个系统问题，而不是一个模型指标。

投机解码压解码延迟，KV 压缩压 Prefill 开销，原生多模态砍掉串行环节，缓存和批处理压服务端成本，自研推理框架压硬件效率——每一层都不惊艳，叠起来就是 4~6 倍。

这其实是一个很朴素的工程真理：当所有环节都攥在自己手里，且每一环都优化 20%，最后的结果不是 20%，而是乘起来。

克制、全栈、层层抠细节——这大概也是所有想做个人 AI 操作系统的人，最终都会走到的同一条路。

信息来源：

注：本文所有"推测"均已标注，官方未发布技术报告，架构细节存在不确定性。实测数据来自社区个人样本，未经统一校准。

兰亭墨苑

快，是一种系统能力：拆解 DeepSeek V4.1 Flash 的新结构