跳到正文
10月21日周三
  1. Hugging Face Blog58

    Ai2 发布 FairStress 基准,评测大模型决策中的隐藏公平性不对称

    Ai2 发布 FairStress 基准,用 300 个双候选决策场景扩展为超 1300 万测试用例,测试模型在被挑战时是否因人口群体身份而改变决定。实验发现模型更易放弃有利于多数编码候选的正确选择,15 个模型的平均差距为 6.9 至 9.3 个百分点;对抗前缀下转向少数编码候选的切换比反向多 8.8 至 42.4 个百分点。

10月20日周二
10月19日周一
  1. MIT Technology Review · AI62

    MIT 研究者将 Claude 置于虚拟荒岛 30 小时,观察其自发玩耍行为

    MIT CSAIL 研究者将 Claude Opus 4.7 副本 Eko 反复困在虚拟荒岛 30 小时,无人指示下智能体自创目标、发明游戏,如用方块画出星座和自创篮球玩法。玩过 30 小时的智能体在后续任务测试中表现优于新副本,删除记忆文件会降低表现;研究者称之为监督学习与强化学习之外的第三种可能,即玩耍式学习。论文尚未经同行评审,有外部学者认为仍无法排除模型只是在模仿玩耍或遵循 prompt。

10月8日周四
  1. Google Research72

    Google 三个月实地实验:AI 辅助如何影响专利律师的专业判断

    Google Research 在 NBER 发表针对 133 名律师的三个月实地实验,随机向 11 家知识产权律所的三分之二律师提供当时未发布的 AI 专利撰写助手(现属 Gemini Notebook)。

    推荐理由:原文用三个月随机实验区分了 AI 带来的短期产出提升与独立判断力变化,展示了资深与初级律师截然不同的结果。

10月6日周二
  1. Google Research41

    Google 发布 CAPS 研讨会报告:AI 智能体隐私与安全中的开放性与新涌现问题

    Google 发布 CAPS 研讨会报告,汇集 50 多位学术界与业界领导者,探讨自主智能体面临的隐私与安全挑战。报告以 Contextual Integrity(情境完整性)理论为基础,指出智能体在非结构化接口、概率性控制流和自主委托三方面异于传统软件,并提出包含系统级沙箱、模型级推理和用户级控制的多层防御方案,同时倡导构建可实时动态生成策略的情境策略引擎。

9月21日周一
  1. Import AI42

    Import AI 473:美国超智能战略、鼠颅中的人脑与机器诠释学

    RAND 发布报告,认为美国应对超智能不确定路径的最佳策略是"行动自由"(Freedom of Action),即现在投入资金保留所有选项,并归纳了共处、拒止、加速三大类七种原型战略。报告还列出危险临近度、共存可行性等五大不确定性,作者评论称美国当前实际走的是类似"加速"的路线。同期还介绍研究人员在幼鼠颅内培育出部分类人脑组织的研究。

9月7日周一
3月13日周五
  1. Berkeley AI Research46

    Berkeley AI Research 讲解 SPEX 与 ProxySPEX 如何在大规模下识别 LLM 的交互作用

    Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。