Redwood Research·· 12 小时前AI 评分58
Redwood Research 发布模拟控制评估论文，用 LLM 模拟器测试 Agent 监控器
Simulated Control Evaluations
AI 导读
Redwood Research 发布模拟控制评估（SCEs）论文，提出用 LLM 模拟器伪造工具响应来评估监控器能否拦截模型蓄意攻击，而无需在真实部署中实际执行攻击。
来源：Redwood Research · redwoodresearch.org
Redwood Research 发布模拟控制评估论文，用 LLM 模拟器测试 Agent 监控器