跳到正文
K = 0.731
全部动态 · 今日8条

#Anthropic

信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
今天10月17日周六
  1. Simon Willison47

    引用 Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 谈代码审查

    Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 表示，Claude Code 团队会持续审查变更，大多数变更在由人查看之前，至少会由 Claude 审查并修复一次。他们介绍说，团队会思考可能出现什么问题，以及应该采用哪种检查方式（自动化检查还是人工检查）来发现问题，而不是把是否有人读过代码当作判断标准。

  2. 宝玉 · X81

    Anthropic 报告称，智能体工作时长是员工工作时长的六倍，初级员工招聘占比持续下降

    Anthropic 于 10 月 16 日发布了两份报告，探讨内部工作和招聘变化，以及员工与美国成年人对 AI 预期的差异。Baoyu 总结称，截至 8 月，由员工调用的智能体记录的工作时长已达到员工工作时长的六倍，而初级员工在技术岗位新聘员工中的占比从 27% 降至 9%。报告还比较了员工与公众的预期，并将两者之间的大部分差距归因于他们对 AI 能力的不同体验，同时提醒不要将 Anthropic 的职场发现泛化到一般公司。

    推荐理由：这些报告为通过职场变化理解 AI 采用情况提供了背景，同时明确指出，来自一家快速扩张的 AI 公司的研究发现不一定适用于其他雇主。

  3. TechCrunch · AI40

    Replit 首席执行官称公司已不再与 Anthropic 合作

    Replit 首席执行官兼联合创始人 Amjad Masad 表示，公司因成本、合作关系和性能等原因停止与 Anthropic 合作，并称：“我觉得现在 ChatGPT 更好。”熟悉这项合作的人对此提出异议；一篇 9 月的博客文章则称，Claude Fable 5 和 Claude Fable 5.1 已用于 Replit Agent 的生产环境。TechCrunch 表示将寻求进一步说明。Masad 还表示，企业业务收入占比从去年的 2% 增至今年的 15%，而 B2B 收入占比超过 50%。

  5. Boris Cherny · X63

    Claude Code Review 面向 Team 和 Enterprise 计划全面开放

    ClaudeDevs 宣布，Code Review 现已面向 Claude Team 和 Enterprise 计划全面开放，带来更快的审查、更精准地发现影响重大的错误，以及由管理员按仓库选择的 Quick、Standard 或 Deep 审查级别。 Boris Cherny 表示，他的所有 PR 都会经过该功能审查，几乎所有错误都能在合并前被发现，帮助团队快速推进工作的同时提升质量。https://twitter.com/ClaudeDevs/status/2110866210573386065

10月16日周五
  1. 雷锋网72

    尼克·卡马拉塔质疑神经网络可解释性中的叠加解释

    尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出，更先进的观测工具揭示了连贯的神经元功能；据其报告，在受测的现代视觉模型中，最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说，这些发现并未解决语言模型中的表征叠加问题，并为稀疏自编码器（SAE）的应用辩护。卡马拉塔称这一提议是一个工作假设，同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。

  2. The Decoder64

    Anthropic 向 METR 提供内部访问权限，以审查其 AI 模型和安全实践

    Anthropic 为非营利组织 METR 的六名工作人员提供了公司硬件、办公空间和内部工具访问权限，以审查其 AI 模型和安全实践。客户数据、受法律特权保护的信息以及模型架构细节仍不可访问。METR 将独立发布调查结果；Anthropic 可以要求删除预先规定类别中的内容，METR 则可以公开质疑这些要求的合理性。

  3. Arthur Mensch · X55

    欧洲应该把前沿人工智能交给美国人和中国人吗？

    Arthur Mensch认为，欧洲应开发前沿人工智能模型，并警告说，依赖美国和中国的供应商会加深经济依赖，并限制欧洲对访问权限、定价、安全和科学研究的掌控。他认为，开放模型只能部分解决这种依赖，而前沿研究有助于推动产业应用。他表示，Mistral的计算能力计划在未来一年增加到原来的六倍，该公司还将筹集资金以加快发展。

  4. Latent Space62

    Goodfire 的 Nick Cammarata 认为，智能体分析能够解释神经网络中一些常见的多义性实例

    Latent Space 介绍了 Goodfire 的 Nick Cammarata 提出的一项工作理论：神经网络在很大程度上已经可解释，进一步的智能体分析可以解释许多常见的多义性和叠加现象实例。Cammarata 认为，大多数神经元都能被理解；相比之下，他在 2023 年参与的 OpenAI 项目中，这一比例约为 2%。这篇综述还提到了几项质疑：激活较弱、神经元模拟，以及忽略非最大激活；同时提醒读者，论文目前尚未公开。

  5. 雷锋网68

    Anthropic泄露的2021年研究路线图为其后续产品提供背景

    雷锋网报道，一起版权诉讼曝光了Anthropic联合创始人Jared Kaplan撰写的2021年内部《简明研究路线图》。该文件提出了开发对话式软件工程助手、处理长上下文、通过强化学习实现工具使用，以及同步推进能力研究与对齐研究的计划。文章梳理了这些优先事项与此后发展的关联，包括宪法式AI、可解释性研究、Computer Use、MCP和Claude Code。

  7. 宝玉 · X72

    Anthropic取消Opus 5.5快速模式候补名单，Claude Code仍单独计费

    Anthropic已结束Claude Platform上Opus 5.5快速模式的研究预览，并取消候补名单，用户现在可使用速度最高提升至2.5倍的同一模型。API定价为每百万输入令牌8美元、每百万输出令牌40美元，是标准费率的两倍；Claude Code快速模式仍使用单独计费的额外用量额度。Microsoft Foundry也已提供快速模式，Google Cloud即将上线。

  9. Clément Delangue · X30

    我们正派出一群 Microducks 去评估 @AnthropicAI！开个玩笑，虽然这件事还没获批，但我认为，让开源工程师和科学家参与这些重要项目，对保持透明度非常重要。这也是 @Thom_Wolf 发起开放对齐倡议的重要原因。我们都在同一条船上！

    我们正派出一群 Microducks 去评估 @AnthropicAI！ 开个玩笑，虽然这件事还没获批，但我认为，让开源工程师和科学家参与这些重要项目，对保持透明度非常重要。这也是 @Thom_Wolf 发起开放对齐倡议的重要原因。我们都在同一条船上！

  10. Simon Willison48

    Simon Willison 的 Chirp Pong 实验通过音频网络实现联机

    Simon Willison 表示，他的实验展示了两名玩家可以在各自的手机上运行一款游戏，并通过麦克风检测到的啁啾声传输游戏状态。这个游戏是一种具有竞争性的类 Pong 体验，并加入了图形和玩法上的变化。原文最后提到“Claude Code 中的 Claude Opus 5.5 Extra”，但没有解释它与该实验有何关系。

  11. TechCrunch · AI69

    Anthropic 向 6 名 METR 研究人员提供相当于员工级别的访问权限，以便他们独立开展安全评估

    Anthropic 正向 6 名 METR 研究人员提供相当于员工级别的访问权限，让他们独立评估其模型、安全实践和风险管理。研究人员将获得公司笔记本电脑、办公空间和内部工具，这些资源大致相当于 Anthropic 风险评估团队使用的资源。METR 可以在未经 Anthropic 批准的情况下发布评估结果，但公司可以要求进行范围严格界定的删改，METR 也可以公开质疑这些要求。

  13. Boris Cherny · X59

    Boris Cherny宣布与Gray Swan合作举办提示注入竞赛

    Boris Cherny表示，Anthropic正与Gray Swan合作举办提示注入竞赛。Gray Swan宣布，这项竞赛奖金为300,000美元，并有多家前沿实验室赞助商。 Cherny表示，过去几年Claude模型在应对提示注入方面取得了显著进展。随着智能体承担的任务越来越多，整个行业亟需解决这一问题。 https://twitter.com/grayswanai/status/2110746350983737460

  14. Boris Cherny · X49

    Anthropic 的 Boris Cherny 与 Gray Swan 合作举办提示注入竞赛

    过去几年里，我们在 Claude 模型的提示注入问题上取得了显著进展。随着智能体承担的任务越来越多，整个行业亟须解决这一问题。 非常期待与 Gray Swan 合作举办这场竞赛。迫不及待想看看你们会有哪些发现！ @GraySwanAI 宣布推出名为“间接提示注入：黑”的 AI 红队挑战赛，奖金总额为 300,000 美元。该挑战赛由 Anthropic、Meta、Google DeepMind、Reflection AI 及其他前沿实验室赞助商共同合作举办。Cherny 表示，Anthropic 在 Claude 模型的提示注入问题上取得了显著进展，而整个行业亟须解决这一问题。

  17. Ars Technica · AI66

    据报道，FTC 调查 Anthropic 和 OpenAI 涉及 AI 安全事件及消费者损害的情况

    一名知情人士告诉 Axios，周三，FTC 向 Anthropic 和 OpenAI 发出民事调查要求，调查 AI 安全事件可能造成的消费者损害。据报道，这些要求超过 50 页，索要事件记录、内部安全措施以及可能具有误导性的营销材料。消息人士称，调查针对的第三方也将收到传票；如果 FTC 决定提起诉讼，相关证据可能为诉讼提供支持。

10月15日周四
  1. The Decoder81

    GPT-6-Astra 每题花费 2.40 美元，解决了 50 道物理研究问题中的 49 道

    GPT-6-Astra 在 OpenAI 的 Codex 环境中运行，未获得人类提示，解决了 TheoPhysEval 涵盖十一个理论物理子领域的 50 道题中的 49 道，总花费略低于 116 美元。Anthropic 的 Opus 5.5 得分为 92%，而两款模型在无法访问互联网时都达到了 92%。研究人员强调，该基准测试的是运用已知方法进行计算的能力；而选择有前景的研究问题，对当前的智能体来说仍是另一项挑战。

    推荐理由：该基准区分了完成具体物理计算的熟练程度与选择有价值研究问题的能力，厘清了高分实际衡量的是科学工作中的哪些部分。

  2. The Decoder70

    美国银行安排4,000人修复AI模型发现的漏洞

    据CNBC报道，美国银行聘用了1,000名外部承包商，与3,000名员工共同修复包括Anthropic的Mythos在内的AI模型发现的软件漏洞。首席执行官Brian Moynihan表示，这些团队从第二季度起便开始合作。该银行第三季度在软件工作和反洗钱要求上合计支出了数亿美元，但未单独披露修补漏洞的费用。

  3. TechCrunch · AI43

    AI智能体即将进入Rivian汽车

    Rivian首席执行官RJ Scaringe表示，公司计划让旗下汽车运行Anthropic等前沿AI公司的智能体，但他没有给出时间表。Rivian表示，其内部开发的框架会将请求路由到汽车的软件，并可使用本地模型或云端模型。Scaringe表示，智能体不会控制制动或转向等车辆功能。

  6. Simon Willison66

    Anthropic告知投资者，IPO前季度营收增长近50%，达到168亿美元

    据Simon Willison对《金融时报》报道的概述，Anthropic告知投资者，第三季度营收达到168亿美元，较第二季度的115亿美元增长近50%。第三季度每支出1美元购买算力，就产生1.70美元营收；剔除股权薪酬后的调整后营业利润率为11%。《金融时报》援引知情人士称，蒸馏业务占营收的5–7%，并在第三季度大幅削减；Willison估计，若按第二季度营收的5%计算，竞争对手实验室在蒸馏上的支出将超过5亿美元。

  7. The Decoder65

    Anthropic第三季度营收达168亿美元，但增长放缓，计划于11月上市

    据报道，Anthropic在计划于11月上市前向潜在投资者披露，第三季度营收为168亿美元，较第二季度增长约45%；而上一季度的增幅超过140%。截至第三季度，公司报告的调整后营业利润率为11%，未计入股权薪酬等重大成本。据报道，一些潜在投资者感到失望，几位投资者预计，IPO估值预期可能降至1.5万亿美元以下。

  8. 雷锋网56

    为什么一些 AI 基础设施工程师年薪高达 800 万元

    雷锋网报道称，随着模型公司寻求降低算力成本，一些 AI 基础设施专家的年薪可达 700 万至 800 万元。受访者指出，推理优化、模型量化和内核开发是高薪技能，而常规框架部署带来的回报较少。StartLux 联合创始人兼 CTO 郭权伟估计，只有 5%–10% 的 AI 基础设施从业者能获得显著溢价，这与薪资普遍翻倍的印象相悖。

  9. 量子位73

    Anthropic 2021年7月研究路线图勾勒的雄心，如今体现在 Claude Code 中

    据 QbitAI 报道，Anthropic 一份 2021 年 7 月的内部研究路线图因一起版权诉讼而曝光。路线图勾勒了一种通用 AI 助手：能够创建、编辑和解释软件。文件在对齐研究的背景下讨论了工具使用、1T 或更多参数的模型、超长上下文、自我评判和测试时计算。员工评论还对未使用沙盒便执行代码，以及让对齐研究与能力开发保持紧密联系表达了担忧。

  10. Alexandr Wang · X49

    Alexandr Wang 评测 Muse Wonder Full

    @davis7 的评测称，Muse Wonder Full 文笔和“语气”出色，在非专业任务上的能力与 6.1 sol 不相上下，也具备编排能力。评测将命名方案、价格和使用限制列为缺点，并称完整模型可通过订阅在 Muse Code 中使用，但没有 API。 Alexandr Wang 称这是一篇经过深思熟虑的评测，说还有很多地方需要改进，并表示很高兴大家喜欢使用这个模型。https://twitter.com/davis7/status/2110533786895356118

  11. Artificial Analysis · X56

    Claude Opus 5.5 和 Grok 4.7 在线下 3D 构建中还原了埃菲尔铁塔上的 72 个姓名

    Artificial Analysis 要求 AI 模型在线下以 3D 方式构建埃菲尔铁塔。Claude Opus 5.5 和 Grok 4.7 按正确顺序列出了镌刻在塔上的 72 位科学家、工程师和数学家的姓名，尽管双方共用的任务说明从未提及这些姓名。 Claude Opus 5.5 还将每组姓名与其在巴黎的朝向对应起来。两个模型都在无法访问互联网的情况下以智能体方式工作；这些姓名首次出现在它们生成的代码中，从未出现在它们读取的文件或工具输出里。

  12. Ethan Mollick · X30

    我认为，人们觉得 OpenAI 和 Anthropic 既然在 AI 领域如此出色，就好像也不是会遭遇高速增长企业常见问题的普通公司。但它们同样无法避免快速发展中的公司难免会出现的内斗、失调和混乱。

    我认为，人们觉得 OpenAI 和 Anthropic 既然在 AI 领域如此出色，就好像也不是会遭遇高速增长企业常见问题的普通公司。但它们同样无法避免快速发展中的公司难免会出现的内斗、失调和混乱。

  14. Simon Willison45

    Claude Opus 5.5 Max 打造树木找不同游戏

    Simon Willison 描述了他如何在 Claude iPhone 应用默认的聊天模式中提示 Claude Opus 5.5 Max，制作一款名为“Tree appreciator”的游戏。这是一款基于 three.js 的游戏，玩家需要比较算法生成的树木。Claude 工作了 3 小时 7 分钟，随后交出了一款带有音乐、动画和成就系统的找不同游戏，Willison 觉得这款游戏很吸引人，玩起来很有意思。