热点事件观察中
港科大与华为提出 BalanceRoute 优化大模型推理负载均衡
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026年10月16日，机器之心报道，香港科技大学周子杰团队与华为2012实验室理论部联合提出BalanceRoute，针对大模型推理数据并行中的负载均衡瓶颈，通过数学建模刻画同步等待，并将短期负载预测转化为在线路由决策。在96卡主实验中，该方法解码吞吐相对最强基线提升约15%。该工作已被NeurIPS 2026接收，并已部署于双方共建的MaaS推理服务系统MathBot-Pie。
AI 根据报道生成 · 2 天前更新
最新进展10月16日 11:23
BalanceRoute被NeurIPS 2026接收，并已部署于双方共建的MaaS推理服务系统MathBot-Pie。报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- 机器之心（公众号）港科大与华为提出 BalanceRoute：破解大模型推理数据并行负载均衡瓶颈，解码吞吐提升约 15%
香港科技大学周子杰团队与华为 2012 实验室理论部联合提出 BalanceRoute，通过数学建模刻画同步等待、将短期负载预测转化为在线路由决策，在 96 卡主实验中解码吞吐相对最强基线提升约 15%。该工作已被 NeurIPS 2026 接收，并已部署于双方共建的 MaaS 推理服务系统 MathBot-Pie。
本事件热度走势
当前热度 3·可比范围峰值 9（10月16日 17:00）·近 24 小时可比范围变化 -51%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。