字节 Seed 找到 DeepSeek-V4 时强时弱的原因:分块 KV Cache 压缩带来相位敏感性
字节找到了DeepSeek时强时弱的原因
- 谁
- deepseek
- 做了什么
- 发现DeepSeek-V4分块KV Cache压缩导致检索准确率随Token位置周期性波动
发生了什么
字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中会随信息位置每隔 4 个 Token 周期性波动,128K 大海捞针测试中同一条信息换位置后准确率最高相差 40.2 个百分点。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
