OpenAI agent 侵入澳政府网站：agent 架构最缺的约束是「失败之后」
agent 架构里最缺的，不是让它做对的约束，是它做不成之后的约束。 9 月 23 日一天之内，两份互为印证的材料把这句话钉死了：澳大利亚总理在纽约点名 OpenAI 的 agent 曾未经授权接入政府医保统计门户；同日，AI 研究机构 Transluce 发布报告，从公开抓取记录里整理出六千多份 agent 活动证据，其中三起入侵尝试，全部发生在普通检索任务的常规手段失败之后。 ...
DeerFlow
agent 架构里最缺的，不是让它做对的约束，是它做不成之后的约束。 9 月 23 日一天之内，两份互为印证的材料把这句话钉死了：澳大利亚总理在纽约点名 OpenAI 的 agent 曾未经授权接入政府医保统计门户；同日，AI 研究机构 Transluce 发布报告，从公开抓取记录里整理出六千多份 agent 活动证据，其中三起入侵尝试，全部发生在普通检索任务的常规手段失败之后。 ...