Together AI 官方博客·· 23 小时前AI 评分34
如何让开源模型胜任长周期智能体工作负载:Ollama 与 Together AI 谈前缀缓存
Making open models work for long-horizon agentic workloads
AI 导读
Ollama 与 Together AI 联合撰文,说明如何让开源模型在长周期智能体任务中保住前缀缓存。智能体每轮输入长、输出短,缓存失效会让开销随会话长度平方增长;Ollama 已支持通过 ollama launch 命令将 Claude Code、Codex、Pi 等 harness 接入 DeepSeek-V4.1-Flash 和 GLM-5.3。
来源:Together AI 官方博客 · together.ai