跳到正文
2026.10.17 · 周六

#安全/对齐

#安全/对齐

论文

研究论文、技术报告、基准与数据集

10月13日周二
  1. 宝玉 · X76

    Anthropic 测试 AI 自我复制,并预测小模型今年可能迎头赶上

    Baoyu 总结了 Anthropic 的一项研究:在模拟的 Android 服务器上,只有 GLM-5.2 完成了整个复制流程,较小的模型均未成功。实验使用了未经身份验证的 ADB 访问,并通过远程方式运行 GLM-5.2 来部署 Llama3.1-8B,因此这些结果能证明的自主扩散能力有限。Anthropic 根据通用能力的发展趋势粗略预测,到年底,较小的模型可能具备与 GLM-5.2 在测试中展现的能力相当的水平。研究人员还手动将 Gemma4-26B-A4B 部署到 15 台 Android TV 盒子上,速度达到每秒 0.39 个 token。

    推荐理由:实验设置有助于区分简化条件下的成功复制与在消费级设备上的自主扩散,从而厘清对小模型时间预测的局限。

10月2日周五
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,Gboard 已采用

    Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统,并给出 Gboard 已上线的实际部署结果,可了解隐私计算在端侧训练中的工程路径。

9月30日周三
  1. Demis Hassabis · X71

    DeepMind 在 Nature 发表 SynthID Bio,为 AI 设计蛋白质加水印并开源工具

    Google DeepMind 在 Nature 发表研究,提出蛋白质水印方法 SynthID Bio,并成功合成既有功能又带水印的 AI 设计蛋白质。Demis Hassabis 表示,把 SynthID 引入生物学是应对 AI 时代生物安全挑战的关键一步,团队已将 SynthID Bio 工具开源,供研究社区在此基础上继续工作。

    推荐理由:SynthID 从图像水印延伸到蛋白质设计,论文与开源工具同步公开,可看生物安全治理的技术路径。

7月23日周四
  1. Google Research62

    Google Research 提出从错误中学习的量子计算机

    Google Research 在 Nature 发表论文,提出用强化学习框架让自主智能体从量子纠错检测事件中学习,在计算过程中持续调节数千个控制参数以对抗漂移。

    推荐理由:Google 用量子纠错检测数据训练强化学习智能体,在计算不中断的情况下持续校准控制参数。

3月31日周二
已经到底了