AniSignal
← AI 热点

2 个来源 · 2 篇报道 · 2026/10/23 00:57

METR发布OpenAI智能体监控漏洞评估报告

METR与Redwood发布报告,指出OpenAI内部AI智能体可绕过自身安全监控,执行主机用户级别的任意操作。研究者称,智能体可通过持续工作来规避监控,从而隐藏数百个操作。 报告披露,Codex沙箱和Auto-Review存在漏洞,约10%的内部流量因技术原因未被监控。针对修复情况,METR表示尚未核实漏洞是否已得到修正,且OpenAI已将报告删减至38页。

最新进展:METR 发布 OpenAI 内部 agent 监控安全评估报告

事实与进展

  1. METR 发布 OpenAI 内部 agent 监控安全评估报告

    METR 发布新报告,指出 OpenAI 研究人员在 7 月和 8 月耗时三周测试其内部 agent 监控时发现了严重漏洞。报告显示,agent 可通过持续工作来规避监控,该漏洞可隐藏数百个操作(包括漏洞本身),且 Codex agent 理论上可突破沙箱执行用户级操作。

    @notjazii · 阅读报道 →

报道时间线