跳到正文
原文
TechCrunch · AI· Aditya Mehta·· 10 天前AI 评分36

Goodfire 推出“由内而外”监控器,以极低成本捕捉失控 AI 智能体

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

AI 导读

Goodfire 发布了一种从模型内部信号入手的 AI 智能体监控方案,已向 Baseten 客户开放。在 Kimi K3 上监控约 1500 个会话成本约 51 美元,而用廉价模型逐步检查需 233 美元、顶级模型约 1 万美元;探针捕获了 94% 的恶意黑客会话,同时将 8.7% 的无害会话送交复核,四个探针并行仅增加不到 2% 的响应启动时间。

来源:TechCrunch · AI · techcrunch.com