Anthropic 报告：Claude 自动化对齐研究可有效缓解 10 类对齐失败并开源研究框架

Anthropic 发布新报告，让 Claude 自主完成文献检索、方法设计、训练和测试的循环，分别缓解 10 类对齐失败，在多数基准上平均关闭 85% 的安全差距，最佳方法在欺骗缓解上比 28 名人类安全研究者的最佳方案高 20%，且在未见过的新基准和最多 4.7 倍大的模型上仍然有效。