跳到正文
原文
量子位· 闻乐·· 9 天前AI 评分22

字节Seed发现DeepSeek-V4时强时弱的原因:分块KV Cache压缩导致相位敏感性

字节找到了DeepSeek时强时弱的原因

AI 导读

字节Seed团队发现DeepSeek-V4的检索表现会随信息在输入中的位置每隔4个Token周期性波动,在128K长上下文测试中同一信息换位后准确率最高相差40.2个百分点。

来源:量子位 · qbitai.com