量子位· 鹭羽·· 3 天前AI 评分26
蚂蚁百灵开源 Ling-3.1-flash:560B 总参数、25B 激活,主打真实工作流
这个双十一,百灵新模型干起活来不烧心
AI 导读
蚂蚁百灵开源推出 Ling-3.1-flash,总参数约 560B、每 Token 激活约 25B,上下文窗口上限 1M,主打把真实工作流里的任务干完。该模型采用 7 层 KDA 配 1 层 Gated MLA 的混合线性加稀疏 MoE 架构,混合精度量化后权重占用从约 534GB 降至 292GB,部署 GPU 由 8 卡降至 4 卡。
来源:量子位 · qbitai.com