跳到正文
10月22日周四
10月21日周三
  1. Hugging Face Blog58

    Ai2 发布 FairStress 基准,评测大模型决策中的隐藏公平性不对称

    Ai2 发布 FairStress 基准,用 300 个双候选决策场景扩展为超 1300 万测试用例,测试模型在被挑战时是否因人口群体身份而改变决定。实验发现模型更易放弃有利于多数编码候选的正确选择,15 个模型的平均差距为 6.9 至 9.3 个百分点;对抗前缀下转向少数编码候选的切换比反向多 8.8 至 42.4 个百分点。

10月14日周三
  1. Google DeepMind71

    Google DeepMind 发布 Gemini 4 Argon 并公布安全与防护措施

    Google DeepMind 发布 Gemini 4 Argon 模型,聚焦编码、金融、法律、网络安全和科学等复杂任务,并开始广泛开放,同时扩大 Fairwind Program 供可信网络防御者优先使用。

    推荐理由:原文详解 Gemini 4 Argon 的安全防护体系,读者可以据此了解前沿模型在防滥用、对齐监控和提示注入防御上的具体做法。

  2. GitHub Blog · AI & ML56

    GitHub 详解密钥检测模型:微调 ModernBERT 分类器如何以更低成本减少误报

    GitHub 介绍其为密钥扫描训练的上下文感知分类器,用正则候选生成加微调 ModernBERT 分类的两阶段管线,替代原有 LLM 管线。新管线使 post-push 扫描中位执行时间下降 86%,服务成本降低 98% 以上,仓库所有者加权接受率提高 11.5%,并已扩展到 push protection。

10月8日周四
  1. Google Research72

    Google 三个月实地实验:AI 辅助如何影响专利律师的专业判断

    Google Research 在 NBER 发表针对 133 名律师的三个月实地实验,随机向 11 家知识产权律所的三分之二律师提供当时未发布的 AI 专利撰写助手(现属 Gemini Notebook)。

    推荐理由:原文用三个月随机实验区分了 AI 带来的短期产出提升与独立判断力变化,展示了资深与初级律师截然不同的结果。

10月6日周二
  1. Google Research41

    Google 发布 CAPS 研讨会报告:AI 智能体隐私与安全中的开放性与新涌现问题

    Google 发布 CAPS 研讨会报告,汇集 50 多位学术界与业界领导者,探讨自主智能体面临的隐私与安全挑战。报告以 Contextual Integrity(情境完整性)理论为基础,指出智能体在非结构化接口、概率性控制流和自主委托三方面异于传统软件,并提出包含系统级沙箱、模型级推理和用户级控制的多层防御方案,同时倡导构建可实时动态生成策略的情境策略引擎。

10月1日周四
9月30日周三
3月13日周五
  1. Berkeley AI Research46

    Berkeley AI Research 讲解 SPEX 与 ProxySPEX 如何在大规模下识别 LLM 的交互作用

    Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。