Jan Leike 报告：Claude 自主推进可扩展监督研究
Jan Leike 报告称，Claude 在可扩展监督研究上取得了完全自主的进展，衡量指标为恢复的性能差距（PGR）。 Claude 对多种不同技术进行迭代，最终以 1.8 万美元额度的成本，显著超越了人类研究人员。
全部动态 · 今日6条
#安全/对齐
信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
Jan Leike · X55
Google Research38 Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用心理学量表改编的情境判断测试（SJT）评估 LLM 行为倾向与人类共识的对齐程度，覆盖共情、情绪调节等四类特质。对 25 个 LLM 的大规模分析发现两类差距：模型倾向偏离人类标注者共识，以及在无共识时无法覆盖人类意见的分布范围。小模型（<120B）与前沿闭源模型在人类一致同意时接近完美对齐，但共识低于 90% 时对齐率停滞在 80% 出头。
Google Research精选66 Google 发布白皮书：披露量子计算破解加密货币的漏洞与 PQC 迁移建议
Google Quantum AI 发布白皮书，称未来量子计算机可能以比此前认知更少的量子比特和门数破解保护加密货币的椭圆曲线密码。
推荐理由：Google Quantum AI 给出破解 ECDLP-256 所需量子资源的新估算，并说明如何在不泄露攻击细节的前提下公开漏洞。