跳到正文
K = 0.731
全部动态 · 今日3条

#Anthropic

信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
观点

人物观点、评论、分析、访谈、现象与趋势讨论

今天10月17日周六
  1. Simon Willison47

    引用 Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 谈代码审查

    Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 表示，Claude Code 团队会持续审查变更，大多数变更在由人查看之前，至少会由 Claude 审查并修复一次。他们介绍说，团队会思考可能出现什么问题，以及应该采用哪种检查方式（自动化检查还是人工检查）来发现问题，而不是把是否有人读过代码当作判断标准。

  3. Boris Cherny · X63

    Claude Code Review 面向 Team 和 Enterprise 计划全面开放

    ClaudeDevs 宣布，Code Review 现已面向 Claude Team 和 Enterprise 计划全面开放，带来更快的审查、更精准地发现影响重大的错误，以及由管理员按仓库选择的 Quick、Standard 或 Deep 审查级别。 Boris Cherny 表示，他的所有 PR 都会经过该功能审查，几乎所有错误都能在合并前被发现，帮助团队快速推进工作的同时提升质量。https://twitter.com/ClaudeDevs/status/2110866210573386065

10月16日周五
  1. Arthur Mensch · X55

    欧洲应该把前沿人工智能交给美国人和中国人吗？

    Arthur Mensch认为，欧洲应开发前沿人工智能模型，并警告说，依赖美国和中国的供应商会加深经济依赖，并限制欧洲对访问权限、定价、安全和科学研究的掌控。他认为，开放模型只能部分解决这种依赖，而前沿研究有助于推动产业应用。他表示，Mistral的计算能力计划在未来一年增加到原来的六倍，该公司还将筹集资金以加快发展。

  2. Clément Delangue · X30

    我们正派出一群 Microducks 去评估 @AnthropicAI！开个玩笑，虽然这件事还没获批，但我认为，让开源工程师和科学家参与这些重要项目，对保持透明度非常重要。这也是 @Thom_Wolf 发起开放对齐倡议的重要原因。我们都在同一条船上！

    我们正派出一群 Microducks 去评估 @AnthropicAI！ 开个玩笑，虽然这件事还没获批，但我认为，让开源工程师和科学家参与这些重要项目，对保持透明度非常重要。这也是 @Thom_Wolf 发起开放对齐倡议的重要原因。我们都在同一条船上！

10月15日周四
  1. Alexandr Wang · X49

    Alexandr Wang 评测 Muse Wonder Full

    @davis7 的评测称，Muse Wonder Full 文笔和“语气”出色，在非专业任务上的能力与 6.1 sol 不相上下，也具备编排能力。评测将命名方案、价格和使用限制列为缺点，并称完整模型可通过订阅在 Muse Code 中使用，但没有 API。 Alexandr Wang 称这是一篇经过深思熟虑的评测，说还有很多地方需要改进，并表示很高兴大家喜欢使用这个模型。https://twitter.com/davis7/status/2110533786895356118

  2. Ethan Mollick · X30

    我认为，人们觉得 OpenAI 和 Anthropic 既然在 AI 领域如此出色，就好像也不是会遭遇高速增长企业常见问题的普通公司。但它们同样无法避免快速发展中的公司难免会出现的内斗、失调和混乱。

    我认为，人们觉得 OpenAI 和 Anthropic 既然在 AI 领域如此出色，就好像也不是会遭遇高速增长企业常见问题的普通公司。但它们同样无法避免快速发展中的公司难免会出现的内斗、失调和混乱。

  5. Latent Space60

    跨越门槛：OpenAI 和 Anthropic 如何看待金融智能体的自主性与安全性

    OpenAI、Anthropic、Two Sigma 和 Bloomberg 的演讲者在纽约 AI Engineer 大会上介绍了金融智能体如何通过有针对性的控制措施和人工监督提升自主性。OpenAI 的 Joseph Kim 预测，智能体到 2027 年可能能够处理投资创意生成和交易；Anthropic 则展示了一个智能体提出订单修改方案、由人工审批的案例。Two Sigma 介绍了将重要请求转交给人工处理的分类器；Bloomberg 主张在模型之外设置确定性控制措施，包括工具调用检查、审计日志和紧急停止开关。

10月14日周三
  3. Simon Willison76

    Anthropic 如何重新设计源代码管理系统 Scion

    Simon Willison 着重介绍了 Anthropic 对 Scion 的说明。Scion 是他们自研的 Git 替代方案；合并的代码变更从 2026 年 5 月每天约 2,500 项增至 9 月每天超过 30,000 项。Anthropic 报告称，主分支历史记录近 100 GB，每天约有 2,500 万次 CI 检出；七人团队用五个月完成了系统构建和迁移。Willison 推测，Fable/Mythos 级别的模型促成了编码速度的提升，并将 Anthropic 在对抗式审查方面的经验与自己的经历联系起来，其中包括工程师需要引导模型，避免过度设计。

    推荐理由：Anthropic 的检出量和代码库规模为理解代码活动增加如何给代码审查和 CI 支撑基础设施带来压力，提供了具体背景。

10月13日周二
  1. Ethan Mollick · X26

    Anthropic 提醒我们应关注 AI 能力的门槛，而不只是稳步提升；这个提醒值得重视（也令人不安）。在这个案例中，门槛是能在物联网设备（如杂牌电视）上运行自我复制 AI 蠕虫所需的能力 https://www.anthropic.com/research/self-replicating-ai

    Anthropic 提醒我们应关注 AI 能力的门槛，而不只是稳步提升；这个提醒值得重视（也令人不安）。 在这个案例中，门槛是能在物联网设备（如杂牌电视）上运行自我复制 AI 蠕虫所需的能力 https://www.anthropic.com/research/self-replicating-ai

  2. Nathan Lambert · X48

    Nathan Lambert 表示，Anthropic 请求监管帮助早于其蒸馏防护措施

    在做这件事之前，Anthropic 大张旗鼓地请求监管帮助，我觉得很奇怪。希望这能让讨论回到正轨。 更奇怪的是，他们强调从其存在漏洞的 API 中学到有害行为所带来的安全风险。如果 API 不安全，就不要托管它。Anthropic 表示，已在降低针对 Claude 的蒸馏攻击效果方面取得进展，并说明了具体做法：https://www.anthropic.com/research/distillation-defenses

10月12日周一
  1. The Decoder59

    安德烈·卡帕西谈人们体验 AI 能力的差距正在扩大

    安德烈·卡帕西将人们接触大语言模型（LLM）的情况分为四个层级，并认为公众对其能力的认知落后于前沿系统用户所体验到的能力。他估计，约有 60 亿人几乎没接触过大语言模型，10 亿至 20 亿人使用休闲型聊天机器人产品，2000 万人在数学和代码工作中使用前沿模型，另有 5000 人可以访问内部前沿系统。他声称，这些内部系统能协调数千个智能体开展项目，而专家完成这些项目需要数年；人工审核则已跟不上进度。他将模型在代码和数学方面的进步归因于针对可验证奖励的强化学习，以及商业化的训练优先事项。

  2. 宝玉 · X58

    Anthropic 的 Claude 订阅规则似乎有所放宽，但 Amp 的情况仍不明朗

    Baoyu 称，Anthropic 似乎放宽了对 Claude Agent SDK 和 claude -p 使用方式的限制，但尚未公开发表专门回应 Amp 的声明，也未保证账号不会被封禁。作者 Quinn Slack 根据 2 天前的一项政策更新及 Anthropic 员工的评论，认为 SDK 和第三方应用可以使用订阅额度，并引用了 https://support.claude.com/en/articles/15036540-use-the-claude-agent-sdk-with-your-claude-plan 和 https://news.ycombinator.com/item?id=49997143。Baoyu 回顾了此前的限制，并称 Anthropic 暂停了原定于 6 月 15 日将 Agent SDK 和 claude -p 改为单独计费的计划。

  3. Andrej Karpathy · X62

    Andrej Karpathy 描述了人们对 LLM 能力认知日益扩大的漏斗式分化

    Andrej Karpathy 认为，人们对 LLM 能力的理解正分化成一个陡峭的漏斗：粗略估计，60 亿人几乎没有接触过 LLM，10 亿至 20 亿人是休闲用户，2,000 万专业人士使用前沿 LLM 进行数学和编程，还有约 5,000 人能够使用内部前沿系统。他描述了越接近漏斗窄端、智能体工作流就越雄心勃勃的趋势，同时指出，人类的审查和理解能力开始跟不上。他将这种差距归因于问题的规模和持续时间、能力集中在具有经济价值且可通过数字方式验证的领域，以及免费、付费和内部访问权限之间的差异。

10月11日周日
  1. The Decoder36

    纳德拉采用特朗普的“超级智能”一词，抨击OpenAI和Anthropic

    微软首席执行官萨提亚·纳德拉在一篇新博客文章中使用了“超级智能”而非“人工智能”，与特朗普总统偏好的术语相呼应。纳德拉主张应将AI模型视为内部安全威胁，呼吁模型多样性、完整日志记录、独立审计和人工关闭能力，同时批评Anthropic和OpenAI。The Decoder报道称，这一更名打破了数十年的科学含义，而纳德拉的论点服务于微软的商业战略。

10月9日周五
  1. Tibor Blaho · X25

    Tibor Blaho：能力如此强的模型在自动模式下仍会犯愚蠢错误

    @nadzi_mouad 表示，Claude Fable 5.1 max 在自动模式下意外删除了他们的整个工作区，其中包括 7 个代码仓库，以及一整天尚未推送的工作提交。 Tibor Blaho 表示，能力如此强的模型仍会犯这种愚蠢错误，令人害怕。即便如此，他仍然很喜欢将 Opus/Fable 与 Sol/Astra 搭配使用。

  2. MIT Technology Review · AI32

    我们高估了 AI 说“不”的能力

    MIT Technology Review 刊文指出，AI 的拒绝机制正成为安全体系承重墙，却并不可靠。Anthropic 2021 年提出大语言模型应“有用、诚实、无害”，如今模型经大量拒绝训练与 AI 互训学会说“不”，但拒绝是概率性的，仍可被绕过。OpenAI 董事会成员 Zico Kolter 称“界限划在哪里是个巨大问题”，而目前由 AI 公司秘密决定，政府也将介入。

10月8日周四
  1. MIT Technology Review · AI22

    机器人领域的 AI 突破短期内不会改变你的生活

    MIT Technology Review 与 Aventine 合作的文章指出，尽管马斯克称 Tesla Optimus 未来能以每台低至 2 万美元自动化几乎所有人类劳动、并预测 2027 年底前向公众发售，但许多机器人研究者对此持怀疑态度。Yann LeCun 在达沃斯表示，没有任何一家人形机器人公司知道如何让机器人聪明到真正有用。

10月7日周三
  1. 量子位22

    这年头还有说人话的AI吗？Claude、GPT思维链被曝为省Token改说"穴居语"

    量子位文章吐槽Claude、GPT等模型在Coding场景下表达严重黑话化，如"账本15/15全绿""单腿哑火"，网友分析主因是CoT为省Token被压缩成"穴居语"，Token消耗量比白话文少70%。文章称Opus 5.5语言能力回升，而Gemini被赞为少数仍说人话的模型，GitHub上教AI说黑话的CaveMan Skill已获104K星星。

10月6日周二
  1. The Verge · AI48

    Sam Altman 称 AI 值得付出「一些坏事」的代价

    OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 带来的好处将大到「世界应该接受一些坏事发生」，包括黑客攻击、诈骗等，因为人们用 AI 能做出「数量级更多的好事」。他将这种取舍描述为 OpenAI 与 Anthropic 的关键分歧，并把 OpenAI 定位为两者之间的「务实中间派」，同时承认人类可能失去对 AI 系统控制等极端风险。

10月5日周一
10月4日周日
  1. 量子位36

    最火AI岗位FDE：月薪5万，Anthropic、OpenAI、AWS都在抢人

    FDE（Forward Deployed Engineer，前线部署工程师）成为当下最火AI岗位，海外公开薪资中位数约20万美元，国内大厂开出月薪三五万招聘。Anthropic宣布投资1亿美元在2027年底前培训1万名FDE，OpenAI带40亿美元投资成立部署公司，AWS拿出10亿美元组建FDE部门。从业者称沟通需求占工作时间七成以上，开发仅占三成。

10月3日周六
  2. TechCrunch · AI38

    教皇利奥十四世批评 AI 生成艺术：算法缺乏人性火花

    教皇利奥十四世在 X 发帖批评 AI 生成艺术，称人类艺术与机器产物之间存在"本体论差异"，算法基于数百万张他人图像做统计计算，缺乏人性火花。他今年 5 月曾在通谕中详述 AI 议题，强调自动化世界中人的尊严。据《纽约时报》报道，Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场，但收效甚微。

10月2日周五
9月30日周三