标签: 前缀缓存 (1 篇)

vLLM 联合 Moonshot AI 等正紧急适配 Kimi K3，核心挑战在于 KDA 注意力颠覆了传统前缀缓存，跨硬件栈优化确保开源当天即可生产部署。