关于 字节跳动 的报道

字节 Seed 团队发现 DeepSeek-V4 的长上下文检索表现存在每隔 4 个 Token 的周期性波动，这一现象源于 KV Cache 压缩与注意力组件的位置偏好。这说明长文本优化技术在追求推理效率的同时，可能会引入意料之外的结构性盲区。大模型在处理超长上下文时，效率与稳定性的平衡依然是当前架构设计的核心痛点。