Google 发布 CAPS 研讨会报告:AI 智能体隐私与安全中的开放性与新涌现问题
Google 发布 CAPS 研讨会报告,汇集 50 多位学术界与业界领导者,探讨自主智能体面临的隐私与安全挑战。报告以 Contextual Integrity(情境完整性)理论为基础,指出智能体在非结构化接口、概率性控制流和自主委托三方面异于传统软件,并提出包含系统级沙箱、模型级推理和用户级控制的多层防御方案,同时倡导构建可实时动态生成策略的情境策略引擎。
Google 发布 CAPS 研讨会报告,汇集 50 多位学术界与业界领导者,探讨自主智能体面临的隐私与安全挑战。报告以 Contextual Integrity(情境完整性)理论为基础,指出智能体在非结构化接口、概率性控制流和自主委托三方面异于传统软件,并提出包含系统级沙箱、模型级推理和用户级控制的多层防御方案,同时倡导构建可实时动态生成策略的情境策略引擎。
GitHub 推出开源离线基准 ReviewBench,用于评估 AI 代码审查智能体。基准基于 103.9M GitHub pull request 分析构建,语料涵盖 19 种语言的 219 个公开 pull request,采用人工审查者、frontier LLM 和静态分析构成的多源 golden set,并由资深工程师独立验证,达成 96.6% 一致性。
GitHub 发文称 AI 正在改变开发者工作方式,提出三项需要加强的技能:学会指挥 AI 智能体而非仅使用、不轻信 AI 的第一个答案、用 AI 解更大的问题。
Google DeepMind 发布前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络防御者开放,后续将面向开发者、企业和消费者推出。
推荐理由:原文给出定价、1M 输出 token 上限和多项基准分数,读者可以据此评估其在编码、企业工作流和安全防御上的定位。
Microsoft Research 研究人员开发了一套机器学习系统,为美国本土 66,935 座变电站生成位置级空间天气风险预估,可提前 30 至 60 分钟预警。
Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,把不可见的签名直接嵌入蛋白质序列和 3D 结构,可在合成后的实体蛋白质上验证。
推荐理由:原文给出湿实验验证数据与开源安排,读者可以了解将水印技术嵌入蛋白质设计的具体实现路径。
Microsoft Research 推出 AI 研究系统 Quine,包含生物学世界模型和连接科学工具、文献与湿实验的交互框架。与 Broad Institute 合作中,系统为胰腺导管腺癌(PDAC)预测并排序了数千种可驱动肿瘤细胞状态转变的化合物,湿实验验证中排名最高的化合物产生了最大的预期状态转变,整个筛选过程只用了一个周末。
推荐理由:原文给出 Quine 的系统构成和胰腺癌湿实验验证结果,读者可以了解这种生物世界模型如何缩短实验迭代周期。
Mistral 宣布在慕尼黑设立德国枢纽,设 Physics AI 与工业 AI 专门研究团队,服务德国企业。此前 2026 年 5 月收购 Emmi AI 带来逾 30 名物理与工程 AI 人才,已与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI,并与慕尼黑工业大学开展汽车空气动力学数字孪生研究。
GitHub 官方教程介绍如何在 GitHub Copilot app 中用 /create-canvas 技能以自然语言描述生成可定制的 canvas 界面,如看板、发布清单或仪表盘,无需手写代码。
Mistral 宣布与 Mozilla 合作,Firefox Smart Window(beta)AI 浏览助手现已由 Mistral 模型驱动。该功能面向法国和北美用户,英国和德国预计年内跟进。对话默认不保存在 Mozilla 服务器,Mistral 承诺零数据留存,模型经区域语言和方言微调以理解本地语境。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成到 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全物理隔离(air-gapped)环境中运行推理。
Mistral 介绍了为欧洲能源运营商迁移 40,000 行 Fortran 77 储层模拟代码到 C++ 的做法。团队在迁移前先搭建数值对齐校验框架,用 Vibe CLI 生成超过一百个智能体配合 Mistral OCR 重建文档,并发现结构化工作流加人工审核门比完全自主或全手动更可靠,首个冲刺完成 300,000 行中的 40,000 行。
推荐理由:Mistral 复盘了用智能体迁移 4 万行 Fortran 77 到 C++ 的流程,先行建立数值对齐校验和结构化人审工作流的经验可迁移到类似大型遗留系统改造。
IBM Research 与 UC Berkeley Sky Lab 团队在 K-Search 进化式内核搜索框架上新增 MLX 后端,并设计结构化 CUDA-to-MLX 翻译层,把现有 CUDA 内核知识作为知识库自动迁移到 Apple Silicon。
Berkeley AI Research 提出 ABBEL 框架,将摘要建模为自然语言信念状态并对其内容进行监督,解决递归摘要(context compaction)在长程交互中的性能损失。
UC Berkeley 的 Aditya G. Parameswaran 等人撰文指出,GPT-4 级能力的推理成本已从 2023 年初的约 $30 per million tokens 降至 $1 以下,部分供应商低于 $0.10,推理价格每年下降 9x 到 900x,中位数约 50x。
Berkeley AI Research(BAIR)发布 2026 届博士毕业生展示,介绍十余位毕业生的研究方向与去向。研究方向涵盖机器人与具身智能、LLM 与推理、计算机视觉、生成建模、AI 安全等。毕业生去向包括 OpenAI、Mistral AI、Physical Intelligence 等公司,以及 Princeton、UCLA、University of Chicago 等高校职位。
Berkeley AI Research 发文综述并行推理研究进展,聚焦自适应并行推理(Adaptive Parallel Reasoning),即让模型自行决定何时分解任务、生成多少并发线程及如何协调。
Berkeley AI Research 与 Yann LeCun 等合作提出 GRASP,一种针对学习型世界模型的梯度规划器,让长时程规划更实用。方法通过将轨迹提升到虚拟状态实现时间维度并行优化、在状态迭代中注入随机性以探索、重塑梯度以避免高维视觉模型中脆弱的状态-输入梯度,解决长时程 rollout 中 Jacobian 条件数随时间指数级恶化及非贪婪损失景观导致的局部极小问题。
Berkeley AI Research 介绍了 SPEX 和 ProxySPEX 两种算法,通过消融实验在大规模下识别 LLM 中特征、训练数据和模型组件的关键交互,用于可解释性研究。SPEX 利用稀疏性和低阶性把交互发现问题转化为稀疏恢复问题,可扩展到数千个特征;ProxySPEX 进一步利用层级结构,以约 10x 更少的消融达到与 SPEX 相当的性能。
Berkeley AI Research 在 NeurIPS 2025 论文中提出一个直接基于信息内容评估和优化成像系统的框架,用互信息估计量化测量区分物体的能力。该方法只需噪声测量数据和噪声模型,在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证可预测解码器性能,优化效果媲美 SOTA 端到端方法,且所需内存和计算更少、无需任务特定解码器设计。