跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

6 条精选近 30 天 6 条共收录 37 条

更新

安全对齐的精选

今天10月22日周四第 1–6 条
  1. Latent Space78

    Latent Space AINews:OpenAI Patch the Planet 与 Wiz 独立发现 PHP2Shell 核心漏洞

    Latent Space 汇总 2026 年 10 月 20 至 21 日 AI 新闻,头条是研究人员命名 PHP2Shell 的两个 PHP 引擎内存损坏漏洞(CVE-2026-109618、CVE-2026-109619)。

    推荐理由:梳理了 PHP2Shell 从发现到披露的时间线与多方信源,并区分了已证实事实与未经核实的传播说法,帮助读者判断 AI 参与安全发现的实际边界。

10月14日周三
  1. Google DeepMind71

    Google DeepMind 发布 Gemini 4 Argon 并公布安全与防护措施

    Google DeepMind 发布 Gemini 4 Argon 模型,聚焦编码、金融、法律、网络安全和科学等复杂任务,并开始广泛开放,同时扩大 Fairwind Program 供可信网络防御者优先使用。

    推荐理由:原文详解 Gemini 4 Argon 的安全防护体系,读者可以据此了解前沿模型在防滥用、对齐监控和提示注入防御上的具体做法。

10月8日周四
  1. Google Research72

    Google 三个月实地实验:AI 辅助如何影响专利律师的专业判断

    Google Research 在 NBER 发表针对 133 名律师的三个月实地实验,随机向 11 家知识产权律所的三分之二律师提供当时未发布的 AI 专利撰写助手(现属 Gemini Notebook)。

    推荐理由:原文用三个月随机实验区分了 AI 带来的短期产出提升与独立判断力变化,展示了资深与初级律师截然不同的结果。

10月1日周四
9月30日周三