METR 与 Redwood 公布 OpenAI 监控系统红队测试报告

METR 与 Redwood Research 各派一名员工，于 7 月 21 日至 8 月 11 日对 OpenAI 内部 AI 失准监测系统开展了为期三周的试点高权限红队测试，并发布公开报告，产出 61 页内部报告。 测试只针对 7 月 21 日及之前版本的监控系统，未评估当时正在进行中的改动。双方事先约定只发布简短、高层次的公开内容。OpenAI 称，影响其生产安全防护的漏洞均已在测试结束后修补，但 METR 与 Redwood 表示未核实这些说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。