新智元(公众号)·· 13 小时前AI 评分58
Claude自动模式下周全球上线,METR报告披露OpenAI监控六处漏洞
刚刚,Claude自动模式将全球上线!OpenAI曝出最恐怖一幕
AI 导读
Anthropic宣布下周起Claude默认开启自动模式,每一步能否执行由另一个AI判断,不再逐次弹窗向人请求许可。Anthropic称测试中1053名付费测试者只拦下13.6%的危险命令,AI拦下89%。材料同时引用METR与Redwood对OpenAI内部监控的61页审计摘要,指出上下文压缩、请求头设置、沙箱与审查隔离等六条绕过路径,5月至7月约一成符合条件的内部Codex流量未被监控覆盖。
来源:新智元(公众号) · mp.weixin.qq.com