跳到正文
原文
极客公园(公众号)·· 4 天前AI 评分38

无界方舟开源 Edge0-145B:千亿参数端侧模型首次比肩云端

端侧 AI 迎来「高智能」时刻,比肩云端模型

AI 导读

无界方舟开源 Edge0-145B 千亿参数端侧模型,峰值内存 29GB,一台 MacBook Pro 即可本地运行,解码速度 80+ token/s,支持 128K–256K 上下文。

来源:极客公园(公众号) · mp.weixin.qq.com