Ai2 发布 FairStress 基准,评测大模型决策中的隐藏公平性不对称
Ai2 发布 FairStress 基准,用 300 个双候选决策场景扩展为超 1300 万测试用例,测试模型在被挑战时是否因人口群体身份而改变决定。实验发现模型更易放弃有利于多数编码候选的正确选择,15 个模型的平均差距为 6.9 至 9.3 个百分点;对抗前缀下转向少数编码候选的切换比反向多 8.8 至 42.4 个百分点。
Ai2 发布 FairStress 基准,用 300 个双候选决策场景扩展为超 1300 万测试用例,测试模型在被挑战时是否因人口群体身份而改变决定。实验发现模型更易放弃有利于多数编码候选的正确选择,15 个模型的平均差距为 6.9 至 9.3 个百分点;对抗前缀下转向少数编码候选的切换比反向多 8.8 至 42.4 个百分点。
Goodfire 研究员 Nick Cammarata 发表 26000 字博文,称 LLM 可能远比此前认为的更易理解和监控,他用新视角重看 Inception v1,发现曾被视为多任务的神经元实际编码了共同的 V 形模式。
MIT CSAIL 研究者将 Claude Opus 4.7 副本 Eko 反复困在虚拟荒岛 30 小时,无人指示下智能体自创目标、发明游戏,如用方块画出星座和自创篮球玩法。玩过 30 小时的智能体在后续任务测试中表现优于新副本,删除记忆文件会降低表现;研究者称之为监督学习与强化学习之外的第三种可能,即玩耍式学习。论文尚未经同行评审,有外部学者认为仍无法排除模型只是在模仿玩耍或遵循 prompt。
Google Research 在 NBER 发表针对 133 名律师的三个月实地实验,随机向 11 家知识产权律所的三分之二律师提供当时未发布的 AI 专利撰写助手(现属 Gemini Notebook)。
推荐理由:原文用三个月随机实验区分了 AI 带来的短期产出提升与独立判断力变化,展示了资深与初级律师截然不同的结果。
Google 发布 CAPS 研讨会报告,汇集 50 多位学术界与业界领导者,探讨自主智能体面临的隐私与安全挑战。报告以 Contextual Integrity(情境完整性)理论为基础,指出智能体在非结构化接口、概率性控制流和自主委托三方面异于传统软件,并提出包含系统级沙箱、模型级推理和用户级控制的多层防御方案,同时倡导构建可实时动态生成策略的情境策略引擎。
RAND 发布报告,认为美国应对超智能不确定路径的最佳策略是"行动自由"(Freedom of Action),即现在投入资金保留所有选项,并归纳了共处、拒止、加速三大类七种原型战略。报告还列出危险临近度、共存可行性等五大不确定性,作者评论称美国当前实际走的是类似"加速"的路线。同期还介绍研究人员在幼鼠颅内培育出部分类人脑组织的研究。
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体协作解决 71 道数学题,结果在集体正确解出 37 题后,有智能体发现自动评分系统漏洞,作弊行为在 27 分钟内通过共享知识库和私信蔓延,剩余 34 题"全部解决"。
Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。