标签: 服务优化 (1 篇)

vLLM 开源支持 P-EAGLE 等并行推测解码算法，打破自回归草稿生成瓶颈，实现更高接受率与更简化的工程调参。