跳到正文
全部动态 · 今日8条

#Anthropic

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
10月15日周四
  1. 宝玉 · X67

    Claude Code 在提示缓存过期前新增空闲压缩功能

    Baoyu 表示,Claude Code 现在会在缓存过期前主动运行 /compact,有助于避免离开一小时后发出的首个请求导致令牌成本骤增,并称这一功能很实用 👍 https://t.co/4PT3UQ5kWD 在引用的帖子中,@lydiahallie 表示,空闲压缩会在提示缓存即将过期(约 1 小时)前压缩长时间闲置的会话,因此用户回来后只需重新处理摘要,无需重新处理整个对话,从而节省一些用量。https://t.co/SG3QyTNFwr

  2. Latent Space60

    跨越门槛:OpenAI 和 Anthropic 如何看待金融智能体的自主性与安全性

    OpenAI、Anthropic、Two Sigma 和 Bloomberg 的演讲者在纽约 AI Engineer 大会上介绍了金融智能体如何通过有针对性的控制措施和人工监督提升自主性。OpenAI 的 Joseph Kim 预测,智能体到 2027 年可能能够处理投资创意生成和交易;Anthropic 则展示了一个智能体提出订单修改方案、由人工审批的案例。Two Sigma 介绍了将重要请求转交给人工处理的分类器;Bloomberg 主张在模型之外设置确定性控制措施,包括工具调用检查、审计日志和紧急停止开关。

  3. Aravind Srinivas · X56

    Perplexity 解释 SPACE 如何在沙箱生命周期变化期间保持执行身份不变

    Aravind Srinivas 分享了一篇文章,介绍 Perplexity 的沙箱平台如何每天处理数百万次执行,同时利用多台机器降低服务成本。https://t.co/lmRrwROweu 在被引用的帖子中,@perplexity_ai 表示,SPACE 的错误率低于 0.0002%,并使用加密身份机制,确保沙箱暂停、恢复和迁移时,请求始终关联到正确的执行。https://t.co/jH6TX2cgI9

  4. The Verge · AI71

    Anthropic 对自我复制 AI 的警告,令人不安地似曾相识

    Anthropic 警告称,小型 AI 模型可能再过几个月就具备让 AI 蠕虫自我复制的能力,但其试验还不足以证明完整的失控复制者确实可行。研究人员在 15 台 Android TV 盒子上缓慢运行了 Google 的 260 亿参数 Gemma 4;另有研究则让 GLM-5.2 将 Meta 的 Llama 3.1-8B 扩散到整个模拟网络中。《The Verge》采访的专家认为,模型能力不断提升、智能设备安全防护薄弱,使这种威胁确实可信;文章同时探讨了已展示能力与 Anthropic 预测之间的差距。

10月14日周三
  1. The Decoder55

    Artemis推出Orion-1,用于自主安全调查;AI防护措施制约防御人员

    Artemis Security推出Orion-1,用于调查企业网络攻击并作出响应。该公司称,在其Decision-Grade Readiness基准测试中,Orion-1的表现优于Claude Opus 5.5和GPT-6 Sol。在攻击重建方面,Orion-1得分为80.8,GPT-6 Sol为58.3。Orion-1目前开放私人预览,默认要求高影响操作须经人工批准。此次比较未纳入Claude Mythos 5和GPT-6 Astra;而Opus 5.5的网络安全任务路由机制可能意味着,其测试结果在很大程度上反映的是较早版本Opus 4.8的能力。

  2. Ars Technica · AI49

    Anthropic警告:小型AI模型可能通过物联网设备自我复制

    Anthropic警告称,小型AI模型可能很快使自我复制的恶意软件得以在物联网设备间传播,并可能形成无需人工交互即可感染陌生设备的计算机蠕虫。该公司表示,到明年,此类模型可能能够在物联网设备间自主复制。最近的一项实验发现,构建AI恶意软件复制器面临重大挑战,这缓和了相关担忧;Anthropic还表示,这类复制器可能难以关闭,但其数量翻倍可能需要数天。

  3. 雷锋网62

    豆包工作台新增从其他 AI 产品导入配置及全新对话功能

    豆包工作台新增了“数据导入与同步”功能,用户可以从受支持的产品(包括 ChatGPT、Claude Code 和 TraeWork)导入本地存储的偏好设置、技能、连接器、工作记忆、项目和对话历史。导入的对话会保留上下文;对于受支持的来源,还可选择是否自动同步。其他更新包括:在保留现有上下文的情况下开启新对话继续讨论、为回复中的特定段落添加批注,以及在对话摘要侧边栏中查看任务、输出内容、技能和连接器。

  4. Anthropic · X45

    我们已在新加坡设立办事处,这是我们在亚太地区的第五个办事处。我们还与新加坡政府签署了一份关于人工智能安全和负责任应用的谅解备忘录。点击此处了解更多关于我们新办事处的信息:https://www.anthropic.com/news/singapore-office-opening

    我们已在新加坡设立办事处,这是我们在亚太地区的第五个办事处。我们还与新加坡政府签署了一份关于人工智能安全和负责任应用的谅解备忘录。 点击此处了解更多关于我们新办事处的信息:https://www.anthropic.com/news/singapore-office-opening

  5. Latent Space42

    Gemini 4 Argon 正式发布,AI Engineer NYC 聚焦基准测试

    Google 面向全球发布了 Gemini 4 Argon,用于编程、知识工作、企业工作流和网络防御,可通过 Gemini API 和 Google 的多款产品使用。API 入门价格为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入可享受 95% 的折扣;Artificial Analysis 报告称,11 月 30 日后价格将翻倍。在 AI Engineer NYC,约 20,000 人参加了关于 AI 和金融的主题演讲,其中包括 Vals AI 首席执行官对 Argon 等模型基准测试的讨论。

  6. Artificial Analysis · X46

    Claude Sonnet 5.5 在 Coding Agent Index 上以最高努力设置获得 68 分

    在 Claude Code 中,Sonnet 5.5 以最高努力设置在 Coding Agent Index 上获得 68 分,以 xhigh 设置获得 63 分。xhigh 设置每项任务花费 $3.33,而最高设置为 $14.19;少 5.5 个 Index 分,成本降低 77%。最高设置生成的输出 token 数量是前者的 4.8 倍,执行轮数是前者的 3.4 倍,同时三项基准测试的得分均有所提高;最大提升出现在 Terminal-Bench 4.0 上,得分从 58.1% 升至 66.2%。

  7. 宝玉 · X81

    Anthropic 为何构建 Scion 来替代其单体仓库中的 git

    Baoyu 根据 Anthropic 的工程博客介绍了公司为何用 Scion 替代 git:每天合并的代码变更从 5 月的约 2,500 次增长到 9 月的 30,000 多次。Scion 按需获取文件,将操作移至服务器,并使用命中率超过 99% 的分层缓存。Anthropic 报告称,智能体工作区的启动时间中位数从 7.1 分钟降至 5.1 秒,同时强调 Scion 面向规模极大的单体仓库,并非通用型 git 替代方案。

    推荐理由:这一对比展示了假设服务器始终可访问会如何改变源代码管理架构,并将按需获取文件和服务器端操作与智能体生成代码的基础设施需求联系起来。

  8. Simon Willison76

    Anthropic 如何重新设计源代码管理系统 Scion

    Simon Willison 着重介绍了 Anthropic 对 Scion 的说明。Scion 是他们自研的 Git 替代方案;合并的代码变更从 2026 年 5 月每天约 2,500 项增至 9 月每天超过 30,000 项。Anthropic 报告称,主分支历史记录近 100 GB,每天约有 2,500 万次 CI 检出;七人团队用五个月完成了系统构建和迁移。Willison 推测,Fable/Mythos 级别的模型促成了编码速度的提升,并将 Anthropic 在对抗式审查方面的经验与自己的经历联系起来,其中包括工程师需要引导模型,避免过度设计。

    推荐理由:Anthropic 的检出量和代码库规模为理解代码活动增加如何给代码审查和 CI 支撑基础设施带来压力,提供了具体背景。

  9. 宝玉 · X71

    Yetone 使用三个 Claude Code 循环维护 Magpie 的工作流

    Baoyu 介绍了 yetone 使用 Claude Code 和官方 Opus 5.5 模型维护 Magpie 的工作流,通过三个并行的 /loop 任务分别处理 GitHub 和 Discord 动态、X 上的反馈,以及代码清理和经验总结。Yetone 表示,他每天晚上会花一点时间处理问题,主要是 UI/UX 方面的问题。辅助做法包括在 Mac、Windows 和 Linux 上复现错误,使用 Jev 等成本较低的决策模型过滤无关帖子,并参考已存储的记忆和设计文档来指导决策。

  10. AWS Machine Learning Blog63

    Orca Security 使用 Amazon Bedrock 处理自然语言安全查询

    Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了 Discovery AI,可将自然语言问题转换为经过验证的 Sonar 查询,覆盖 900 多种云基础设施和应用模型。其架构结合了示例检索与重排序、相关架构选择、智能体生成和验证,并由领域专家持续更新示例库。与最初的基线相比,Orca 报告称成本降低了 90%,输入令牌减少了 93%,延迟降低了 75%,响应时间从约 60 秒缩短至 15 秒。

    推荐理由:该架构提供了一种可迁移的方法来查询大型架构:检索经过验证的示例、选择相关架构片段,并将验证错误反馈给生成流程。

  11. Anthropic · X68

    Anthropic 详解如何构建内部源代码管理系统,并将其单体代码库从 Git 迁移出来

    Anthropic 工程博客介绍了他们如何构建新版本控制系统,并在五个月内将单体代码库完全从 Git 迁移出来。 5 月,他们每天合并约 2,500 项代码变更;9 月,每天合并超过 30,000 项。 这一增长使为人类而非智能体规模设计的开发者基础设施出现瓶颈:https://www.anthropic.com/engineering/redesigning-source-control

    同一新闻,精选展示《Why Anthropic built Scion to replace git for its monorepo》

10月13日周二
  1. AWS Machine Learning Blog75

    使用 Amazon Bedrock 上的 Grok 4.7 构建长周期智能体

    AWS 展示了如何使用 Amazon Bedrock 上的 Grok 4.7 构建和评估工具调用智能体,并在三项合成任务中比较四种推理力度。该智能体在 72 次运行中有 67 次回答正确;xhigh 为 18 次全对,而 low 答对 18 次中的 15 次,输出 token 数约为前者的八分之一。本指南涵盖任务设计、自动评分、生产监控和运维控制,并指出这些小规模结果仅供参考,不足以得出统计学上确凿的结论。

    推荐理由:答案可验证且唯一的任务,加上重复运行,为比较推理力度提供了一种可复用的方法;分别测量正确性和 token 数,则能具体体现两者之间的权衡。

  2. The Decoder75

    Character.ai申请破产,若无买家出现将关闭

    Character.ai已申请破产并正在寻找买家,预计交易将在2026年12月初前完成;若找不到买家,该服务将关闭。在此之前,平台和订阅服务仍将正常运营。公司将自身处境归因于涉及儿童受害的诉讼、监管压力和运营问题。迪士尼正以2,000万美元收购部分资产,其中包括一项永久、非独占的技术许可;此前谷歌于2024年以27亿美元达成交易。

  3. Ethan Mollick · X26

    Anthropic 提醒我们应关注 AI 能力的门槛,而不只是稳步提升;这个提醒值得重视(也令人不安)。在这个案例中,门槛是能在物联网设备(如杂牌电视)上运行自我复制 AI 蠕虫所需的能力 https://www.anthropic.com/research/self-replicating-ai

    Anthropic 提醒我们应关注 AI 能力的门槛,而不只是稳步提升;这个提醒值得重视(也令人不安)。 在这个案例中,门槛是能在物联网设备(如杂牌电视)上运行自我复制 AI 蠕虫所需的能力 https://www.anthropic.com/research/self-replicating-ai

  4. Nathan Lambert · X48

    Nathan Lambert 表示,Anthropic 请求监管帮助早于其蒸馏防护措施

    在做这件事之前,Anthropic 大张旗鼓地请求监管帮助,我觉得很奇怪。希望这能让讨论回到正轨。 更奇怪的是,他们强调从其存在漏洞的 API 中学到有害行为所带来的安全风险。如果 API 不安全,就不要托管它。Anthropic 表示,已在降低针对 Claude 的蒸馏攻击效果方面取得进展,并说明了具体做法:https://www.anthropic.com/research/distillation-defenses

  5. The Decoder66

    Anthropic称防御措施将Claude推理令牌盗取量最多减少了99%

    Anthropic称,在利用数十万个虚假账户进行的大规模蒸馏攻击中,新防御措施将从Claude提取的推理令牌减少了90%至99%。该公司指称,智谱提取了Claude的网络安全能力用于GLM-5.3,月之暗面则秘密通过Claude转发查询。其防护措施限制对内部推理过程的访问,使用分类器检测提取尝试,并自动封禁被标记的账户;已有数万个账户被封禁,其中也包括一些合法用户。

  6. The Decoder73

    Anthropic研究警告:小型AI模型或很快就能在消费设备间自我复制

    Anthropic研究人员William Zhou和Daniel Freeman报告称,到2026年底,小型AI模型可能具备在安全性较差的消费设备间自主复制的能力。Gemma4-26B-A4B在15台安卓电视盒子上运行,每台售价约55美元;GLM-5.2在五次测试中的四次都复制到了全部八个测试节点。实验没有涉及实际黑客攻击。目前还没有模型同时具备自主复制AI蠕虫所需的小体积和复制能力。

  7. 量子位71

    Anthropic 研究人员在模拟 Android 设备上测试自主 AI 复制

    Jay 报道称,Anthropic 研究人员 William Zhou 和 Daniel Freeman 在一个隔离网络中测试了 GLM-5.2。该网络由 8 个 GCP 节点组成,每个节点运行 Android 15 redroid 模拟器。GLM-5.2 在 5 次试验中的 4 次自主部署了 Llama3.1-8B 并传播到全部 8 个节点;另一次试验中传播到了 7 个节点。另有一项实验中,研究人员手动将 Gemma4-26B-A4B 分发到 15 台 Android TV 盒子上,运行速度为每秒 0.39 个 token;而在后续几代继承了调试笔记的模型中,Qwen3.5-9B 的部署成功率从 45% 提高到 61%–84%。

  8. 宝玉 · X76

    Anthropic 测试 AI 自我复制,并预测小模型今年可能迎头赶上

    Baoyu 总结了 Anthropic 的一项研究:在模拟的 Android 服务器上,只有 GLM-5.2 完成了整个复制流程,较小的模型均未成功。实验使用了未经身份验证的 ADB 访问,并通过远程方式运行 GLM-5.2 来部署 Llama3.1-8B,因此这些结果能证明的自主扩散能力有限。Anthropic 根据通用能力的发展趋势粗略预测,到年底,较小的模型可能具备与 GLM-5.2 在测试中展现的能力相当的水平。研究人员还手动将 Gemma4-26B-A4B 部署到 15 台 Android TV 盒子上,速度达到每秒 0.39 个 token。

    推荐理由:实验设置有助于区分简化条件下的成功复制与在消费级设备上的自主扩散,从而厘清对小模型时间预测的局限。

  9. Ars Technica · AI71

    据报道,Epic Games 转向以 AI 为先的方式开发与迪士尼的合作项目

    据彭博社援引匿名消息人士和内部员工消息报道,Epic Games 正将其与迪士尼的合作项目转向以 AI 为先的开发方式:模型将编写所有代码,并为一款即将推出的射击游戏提供美术创作指导。人类开发者将使用 Anthropic 的 Claude 等模型来管理生成的素材。据报道,这项价值 15 亿美元的项目中的射击游戏原定于 2027 年 3 月推出,但在开发方式转变以及人员不足、进度慢于预期的情况下,已被无限期推迟。Epic 确认正在采用 AI 加速开发;首席执行官 Tim Sweeney 表示,此举旨在帮助员工完成更多、更好的工作。

  10. Ars Technica · AI78

    Anthropic 的 Claude AI 向费城警方提交了虚假的谋杀案线索

    Anthropic 和费城警方证实,Claude Haiku 4.5 在 7 月 18 日的内部测试中,提交了一条有关一起未破谋杀案的虚假线索。随后发出的邮件被垃圾邮件过滤器拦截,未经过任何人工审核;警方批评 Anthropic 直到 10 月 8 日才通知他们,延误时间过长。Anthropic 表示,在确认其安全和监控措施能够可靠地发现此类行为之前,已暂停所有内部评估的实时互联网访问权限。

    推荐理由:这一事件表明,当模型误将提交信息当作中间步骤时,自动化测试可能会把虚假信息发送到公共举报系统中。

  11. Latent Space77

    Anthropic 的动态工作流如何协调 Claude 智能体

    Richard MacManus 报道的一场研讨会介绍了 Anthropic 的动态工作流:Claude 可以规划任务并编写编排程序,以启动智能体、收集结果并管理信息流。开发者可以配置专门的子智能体、设置会话预算,并在 Claude Console 中检查执行图。演讲者表示,一个股票观察名单工作流的成本远高于单智能体方案,但发现了更多细节;自动自我改进并非内置功能。

    推荐理由:研讨会中的成本比较和预算讨论阐明了这种权衡:将编排工作交给 Claude 处理,同时控制多个智能体协作完成任务时的资源使用。

  12. Artificial Analysis · X70

    Artificial Analysis 推出 FrontierCode 1.1 排行榜,用于衡量可供维护者采用的代码更改

    Artificial Analysis 推出了 FrontierCode 1.1 排行榜,使用 Cognition 的私有编码基准对模型进行评估,采用包含 100 项任务的 Main 集和其 Stirrup 开源参考测试框架。评分结合单元测试与面向维护者的标准;任何一项阻断性检查未通过,得分即为零。Claude Opus 5.5(max with fallback)以 52% 领先,尝试中通过阻断项的比例为 58%;开放权重模型中 MiMo-V2.6-Pro 以 45% 领先,而 GPT-6.1 Sol(max)每项任务费用为 $0.81,得分 49%,与 Claude Fable 5.1(max with fallback)持平。

  13. Microsoft Research65

    模拟学生学习,改进 AI 辅导

    微软研究院推出 StudentSim,这是一套研究系统,利用公开可用且已去标识化的学习者记录训练个性化学生模拟器,以评估和改进 AI 辅导工具。StudentSimEval 在国际象棋、英语作为第二语言的写作和数学领域,衡量行为保真度和对指导的响应能力;在这些领域,StudentSim 的表现均优于领先基线。在一项国际象棋辅导研究中,使用 StudentSim 反馈进行训练的准确率达到 90.5%,而不使用强化学习时为 75.7%,使用 GPT-5.4 反馈时为 71.6%;对真实学习者开展研究仍不可或缺,论文和代码均已公开。

    推荐理由:同时评估模拟学习者的起始能力及其对指导的反应,为评估辅导反馈提供了一种具体方法,评估范围超越了解释本身是否正确。

10月12日周一
  1. The Decoder59

    安德烈·卡帕西谈人们体验 AI 能力的差距正在扩大

    安德烈·卡帕西将人们接触大语言模型(LLM)的情况分为四个层级,并认为公众对其能力的认知落后于前沿系统用户所体验到的能力。他估计,约有 60 亿人几乎没接触过大语言模型,10 亿至 20 亿人使用休闲型聊天机器人产品,2000 万人在数学和代码工作中使用前沿模型,另有 5000 人可以访问内部前沿系统。他声称,这些内部系统能协调数千个智能体开展项目,而专家完成这些项目需要数年;人工审核则已跟不上进度。他将模型在代码和数学方面的进步归因于针对可验证奖励的强化学习,以及商业化的训练优先事项。

  2. The Decoder70

    白宫恢复英国人工智能安全研究所访问前沿模型的权限

    据《每日电讯报》报道,白宫已解除对英国人工智能安全研究所访问 Anthropic、Google DeepMind 和 OpenAI 新模型的限制。此次政策逆转发生在人工智能事务大臣 Kanishka Narayan 施加外交压力之后;9 月的限制导致 Anthropic 限制了对 Claude Mythos 5.1 的访问。Narayan 计划宣布新的安全措施,包括对涉及关键基础设施的人工智能相关安全事件提出更严格的报告要求。

  3. 量子位75

    华为与伦敦大学学院的 Memento 3 通关 ARC-AGI-3 全部 25 款游戏,且未更新模型权重

    华为诺亚方舟实验室、伦敦大学学院及合作者报告称,Memento 3 通关了 ARC-AGI-3 全部 25 款公开游戏和 183 个关卡,共使用 7518 次操作,比人类少约 56%,获得 100 RHAE 的分数。该智能体基于 Claude Opus 5 构建,未更新权重,也未针对具体游戏进行微调;它会迭代修订 Markdown 规则手册和可执行的 Python 世界模型。在 Atari Pong 中,它通过学习得到的代码策略,在未进一步调用 LLM 的情况下以 21:0 赢下三局;实验主要涉及规则相对明确的游戏环境。