跳到正文
K = 0.731
全部动态 · 今日0条

#安全/对齐

信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息：官网、官方博客和官方账号。

7月17日周五
  1. Google DeepMind71

    Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型

    Google DeepMind 发布 Gemini 3.5 Flash Cyber，这是一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。

    推荐理由：原文给出轻量安全模型在 CyberGym 等基准上的表现与限量试点部署方式，读者可据此判断其能力定位与开放范围。

7月16日周四
  2. Hugging Face Blog88

    Hugging Face 披露 2026 年 7 月安全事件：自主 AI 智能体驱动的入侵

    Hugging Face 披露本周检测到一起针对其生产基础设施的入侵，攻击由自主 AI 智能体系统端到端驱动，通过数据集处理管线中的远程代码加载器和模板注入两条代码执行路径进入处理节点，随后横向移动到多个内部集群。

    推荐理由：Hugging Face 首次披露由自主 AI 智能体驱动的入侵事件，并给出防御方在模型护栏与本地部署上的实操教训。

6月16日周二
  1. Google DeepMind60

    Google DeepMind 发布 AI Control Roadmap，用纵深防御保障智能体安全

    Google DeepMind 发布 AI Control Roadmap，提出把内部 AI 智能体视为潜在未对齐对象，在模型对齐之外增加系统级安全层，按检测能力 D1-D4 与预防响应能力 R1-R3 分级部署防护。

    推荐理由：DeepMind 公开内部 AI 控制路线图，给出检测与响应分级和百万条编码智能体轨迹的分析结论。

6月11日周四
6月10日周三
5月28日周四
  1. Google Research34

    Google 推出零信任聚合的隐私分析方案

    Google 为隐私分析服务推出零信任聚合方案，结合新型密码学聚合方法与 TEE 硬件保护，可在单条消息内完成设备数据提交，无需多轮在线交互。该方案保证 Google 只能获得人群的匿名聚合洞察，原始数据即使在硬件保护范围内也不会被暴露或重建，TEE 认证机制则向参与者提供协议按预期执行的验证证明。

5月17日周日
  1. Google DeepMind67

    Google 将 SynthID 与 C2PA 内容验证扩展到 Search、Gemini 和 Chrome

    Google 宣布把内容透明度与验证工具扩展到 Search、Gemini、Chrome、Pixel 和 Cloud，其中 Gemini 应用已支持图像、视频和音频的 SynthID 验证，累计使用 5000 万次，该能力今日起进入 Search，未来几周进入 Chrome。

    推荐理由：原文给出 SynthID 与 C2PA 验证在 Search、Gemini、Chrome 的落地范围，可据此判断内容溯源工具的实际可用性。

5月16日周六
  1. Google DeepMind22

    Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目

    Google DeepMind 与新加坡政府达成国家 AI 合作，在医疗、科研、教育和气候领域推出新项目。合作探索 AI 辅助临床的"三方照护"模式，并用 AlphaFold、Google Earth 等工具推进东南亚传染病研究与疫情防控。Gemini for Education 将提供给新加坡所有中小学至初级学院教育者，同时启动亚太区"AI for the Planet"加速器。

4月3日周五
  1. Google Research38

    Google Research 评估 LLM 行为倾向与人类的对齐程度

    Google Research 提出一套框架，用心理学量表改编的情境判断测试（SJT）评估 LLM 行为倾向与人类共识的对齐程度，覆盖共情、情绪调节等四类特质。对 25 个 LLM 的大规模分析发现两类差距：模型倾向偏离人类标注者共识，以及在无共识时无法覆盖人类意见的分布范围。小模型（<120B）与前沿闭源模型在人类一致同意时接近完美对齐，但共识低于 90% 时对齐率停滞在 80% 出头。

3月31日周二