跳到正文
原文
机器之心(公众号)·· 3 天前AI 评分8

EMNLP 2026 | SpecTr-GBV 统一多草稿与块验证,加速大模型推测解码

EMNLP 2026 | 大模型推理如何再快一步?SpecTr-GBV统一多草稿与块验证,加速推测解码

AI 导读

中国人民大学等团队提出 SpecTr-GBV,将 multi-draft 与 greedy block verification(GBV)统一进同一个推测解码框架,把多条 draft token blocks 与 target token block 的验证写成最优传输问题。

来源:机器之心(公众号) · mp.weixin.qq.com