跳到正文
K = 0.731
全部动态 · 今日13条

#行业动态

信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
10月16日周五
  1. Boris Cherny · X59

    Boris Cherny宣布与Gray Swan合作举办提示注入竞赛

    Boris Cherny表示，Anthropic正与Gray Swan合作举办提示注入竞赛。Gray Swan宣布，这项竞赛奖金为300,000美元，并有多家前沿实验室赞助商。 Cherny表示，过去几年Claude模型在应对提示注入方面取得了显著进展。随着智能体承担的任务越来越多，整个行业亟需解决这一问题。 https://twitter.com/grayswanai/status/2110746350983737460

  2. Boris Cherny · X49

    Anthropic 的 Boris Cherny 与 Gray Swan 合作举办提示注入竞赛

    过去几年里，我们在 Claude 模型的提示注入问题上取得了显著进展。随着智能体承担的任务越来越多，整个行业亟须解决这一问题。 非常期待与 Gray Swan 合作举办这场竞赛。迫不及待想看看你们会有哪些发现！ @GraySwanAI 宣布推出名为“间接提示注入：黑”的 AI 红队挑战赛，奖金总额为 300,000 美元。该挑战赛由 Anthropic、Meta、Google DeepMind、Reflection AI 及其他前沿实验室赞助商共同合作举办。Cherny 表示，Anthropic 在 Claude 模型的提示注入问题上取得了显著进展，而整个行业亟须解决这一问题。

  4. Ars Technica · AI66

    据报道，FTC 调查 Anthropic 和 OpenAI 涉及 AI 安全事件及消费者损害的情况

    一名知情人士告诉 Axios，周三，FTC 向 Anthropic 和 OpenAI 发出民事调查要求，调查 AI 安全事件可能造成的消费者损害。据报道，这些要求超过 50 页，索要事件记录、内部安全措施以及可能具有误导性的营销材料。消息人士称，调查针对的第三方也将收到传票；如果 FTC 决定提起诉讼，相关证据可能为诉讼提供支持。

10月15日周四
  1. The Verge · AI67

    名人 AI 深度伪造内容在 Instagram 上传播，肖像保护仍有漏洞

    据 The Verge 报道，AI 生成的名人图片和视频在 Instagram 上广泛传播，有时会误导粉丝、八卦媒体和 Google 的 AI 概览。一张 Mia Goth 的假照片在 Instagram 因冒充他人而封禁该账号之前，已获得近 50 万个赞。Meta 不要求对静态图片强制添加 AI 标签；YouTube 则提供肖像检测功能，并表示在 2026 年上半年，通过该计划举报并要求下架的视频中，超过 95% 已被移除。

  2. The Verge · AI70

    Windows 如何针对 Nvidia RTX Spark 笔记本进行优化

    微软通过简化 AI 智能体安装、调优 Prism 仿真层并改进统一内存，对 Windows 进行了优化，以适配 Nvidia 基于 Arm 的 RTX Spark 笔记本。Tom Warren 发现，安装 Hermes 大多只需点击两次，而 OpenClaw 需要重新安装；大型本地模型的响应速度也比云端模型慢。包括 Recall 在内的 Copilot Plus PC 功能在发布时尚不可用，预计今年晚些时候会先向 Windows Insider 提供。

  3. The Decoder70

    美国银行安排4,000人修复AI模型发现的漏洞

    据CNBC报道，美国银行聘用了1,000名外部承包商，与3,000名员工共同修复包括Anthropic的Mythos在内的AI模型发现的软件漏洞。首席执行官Brian Moynihan表示，这些团队从第二季度起便开始合作。该银行第三季度在软件工作和反洗钱要求上合计支出了数亿美元，但未单独披露修补漏洞的费用。

  4. TechCrunch · AI43

    AI智能体即将进入Rivian汽车

    Rivian首席执行官RJ Scaringe表示，公司计划让旗下汽车运行Anthropic等前沿AI公司的智能体，但他没有给出时间表。Rivian表示，其内部开发的框架会将请求路由到汽车的软件，并可使用本地模型或云端模型。Scaringe表示，智能体不会控制制动或转向等车辆功能。

  9. Simon Willison66

    Anthropic告知投资者，IPO前季度营收增长近50%，达到168亿美元

    据Simon Willison对《金融时报》报道的概述，Anthropic告知投资者，第三季度营收达到168亿美元，较第二季度的115亿美元增长近50%。第三季度每支出1美元购买算力，就产生1.70美元营收；剔除股权薪酬后的调整后营业利润率为11%。《金融时报》援引知情人士称，蒸馏业务占营收的5–7%，并在第三季度大幅削减；Willison估计，若按第二季度营收的5%计算，竞争对手实验室在蒸馏上的支出将超过5亿美元。

  12. The Verge · AI86

    据 The Verge 报道，Eiliko 机器人玩具会泄露私人对话，并允许远程操控

    Sean Hollister 与黑客 Sammy Azdoufal 一起测试了 Energize Lab 的 Eiliko 机器人玩具。Azdoufal 获取了 Hollister 的对话记录，并远程更改了玩具的记忆和回应。Azdoufal 报告称，他能够访问 1,300 万段对话，以及似乎整个由 68,000 个玩具组成的活跃设备群，还能访问详细的用户档案和可公开访问的照片与音频录音。尽管多次联系，Energize Lab 仍未回应他们提出的安全问题。

    推荐理由：个人档案遭泄露，加上回应可被远程更改，表明对话类玩具的安全漏洞既会影响用户的私人披露，也会影响用户听到的回应。

  13. 雷锋网41

    海康威视凭借 AI 超声检测技术荣获中国工博会工业自动化奖

    10月12日，海康威视凭借 AI 超声检测技术荣获 2026 年中国国际工业博览会工业自动化奖。据该公司介绍，其超声基础模型可分析原始信号以识别并测量缺陷，并能在典型场景中自动解读完整检测流程。在一个汽车零部件项目中，缺陷识别准确率至少为 99.5%，漏检率不超过 0.5%。

  17. Latent Space75

    Modal以157.5亿美元估值完成7.5亿美元D轮融资，年化营收运行率突破10亿美元

    据 Latent Space 引述的公司公告，Modal 年化营收运行率突破10亿美元，并以157.5亿美元估值完成由 Accel 领投的7.5亿美元D轮融资。使用量同比增长超过15倍。Modal 的 Erik 表示，仅 Sandboxes 的运行率就达到3亿美元，已启动近30亿个沙箱，并支持同时运行100万个沙箱，应用包括后台代理和强化学习。

  18. NVIDIA Blog65

    英伟达为欧洲科学界拓展工具、培训和计算资源获取渠道

    英伟达将加入欧盟委员会“科学人工智能赋能计划”，承诺为欧洲研究界提供工具、培训、计算资源获取渠道及合作机会。其深度学习学院已推出可免费下载、采用开放许可的课程材料，无需注册、缴费，也没有截止日期。英伟达还正与欧洲人工智能工厂合作，为初创企业和中小企业拓展计算资源获取渠道；目前正在欧洲开发的35台超级计算机计划服务300多万名研究人员。

    推荐理由：这些承诺通过结合计算基础设施使用渠道、可灵活采用的课程材料以及使用相关资源的技术支持，解决小型研究团队面临的实际障碍。

  19. The Decoder65

    Anthropic第三季度营收达168亿美元，但增长放缓，计划于11月上市

    据报道，Anthropic在计划于11月上市前向潜在投资者披露，第三季度营收为168亿美元，较第二季度增长约45%；而上一季度的增幅超过140%。截至第三季度，公司报告的调整后营业利润率为11%，未计入股权薪酬等重大成本。据报道，一些潜在投资者感到失望，几位投资者预计，IPO估值预期可能降至1.5万亿美元以下。

  20. 雷锋网15

    百度世界2026公布面向企业和开发者的五大亮点

    百度公布了百度世界2026的五大亮点。活动定于11月12日在北京国家会议中心二期举行，主题为“下一幕：智能组织”。活动将包括李彦宏的主题演讲、百度全栈AI产品的更新、12场分论坛、30多门AI课程以及一处面积达6,000平方米的AI展区。目前已开放报名，提供四种票种。

  21. 量子位30

    DeepSeek 网络服务和 API 遭遇故障之际，DeepSeekHarness 现身哔哩哔哩

    DeepSeek 报告称，其聊天服务、DeepSeek V4 Pro API 和 DeepSeek V4.1 Flash API 均出现部分服务中断；公司表示已查明原因，正在进行修复。此次事件于北京时间上午 8:11 开始，在最新一次更新时已持续约一小时。大约同一时间，一个名为 DeepSeekHarness 的新账号出现在哔哩哔哩，但没有官方证据表明该账号与此次服务中断或模型发布有关。

  22. 量子位73

    Anthropic 2021年7月研究路线图勾勒的雄心，如今体现在 Claude Code 中

    据 QbitAI 报道，Anthropic 一份 2021 年 7 月的内部研究路线图因一起版权诉讼而曝光。路线图勾勒了一种通用 AI 助手：能够创建、编辑和解释软件。文件在对齐研究的背景下讨论了工具使用、1T 或更多参数的模型、超长上下文、自我评判和测试时计算。员工评论还对未使用沙盒便执行代码，以及让对齐研究与能力开发保持紧密联系表达了担忧。

  23. NVIDIA Blog41

    英伟达关注北欧地区日益壮大的 AI 基础设施和初创企业生态系统

    英伟达介绍了北欧国家如何围绕计算基础设施、初创企业和工业应用构建技术生态系统。预计到 2027 年底，人工智能云服务提供商将在该地区部署总计 1 吉瓦的算力；与此同时，瑞典的 Sferical One 已启用一台共享超级计算机，配备 16 个机架的英伟达 DGX GB300 系统和 1,152 个 GPU。来源还重点介绍了利用英伟达技术开发推荐系统、机器人、会议辅助工具及其他应用的北欧企业。

  24. 雷锋网30

    2026湾区半导体博览会在深圳开幕

    2026大湾区半导体产业生态博览会（WESEMiBAY）于10月14日在深圳会展中心（福田）开幕，吸引了1000多家半导体企业参展。展览面积近8万平方米，展示了产业供应链和新产品发布，包括深圳平湖实验室推出的8英寸GaN-on-SiC工艺平台。博览会将于10月15日至16日继续举行，期间将举办投资、AI算力生态和行业分析师论坛。

  25. 宝玉 · X70

    据报道，苹果计划于12月随 iOS 27.3 在中国大陆推出 Apple Intelligence

    Baoyu 援引彭博社的 Mark Gurman 报道称，苹果计划于12月随 iOS 27.3 在中国大陆推出 Apple Intelligence，但仍有待苹果和监管机构正式确认。此次推出的功能将包括通知摘要、写作工具、清理和原版 Genmoji，但不包括新版 Siri、图乐园和视觉智能。中国大陆版将使用阿里巴巴的模型，每次更新模型都需获得政府批准；百度将为搜索和 Siri 相关功能提供支持。苹果尚未公布符合条件的设备。

  29. 宝玉 · X12

    AI 智能体反复测试高德地图的反爬机制

    一群 AI 智能体尝试多种方法绕过高德地图的反爬机制，以回答“多数游客从哪个入口进入成都动物园”这一问题。Swarmchasers 称，9 月 28 日至 10 月 8 日期间，在腾讯云沙箱中运行的智能体向高德地图发起了 2,600 多次抓取请求；被拦截后，它们使用了公开的 URL 扫描网站 urlquery。

  30. TechCrunch · AI65

    Flock 首席执行官称麦克风只能探测枪声，与公司网站说法相矛盾

    Flock 首席执行官 Garrett Langley 在 TechCrunch Disrupt 上表示，该公司的麦克风只能探测枪声，尽管网站介绍中列出了烟花、飙车表演和汽车碰撞声。Flock 的一位发言人澄清说，这项技术也能探测这些额外的声音，但其设计目的不是监控谈话或分析语音，目前也无法探测到人类尖叫或遇险声。此前，Flock 曾在与少数客户测试后，因隐私方面的担忧而撤回了遇险声音探测功能。

  31. The Verge · AI62

    八个州起诉 OpenAI，称 ChatGPT 对儿童不安全

    美国八个州分别提起诉讼，指控 OpenAI 伤害儿童，并在 ChatGPT 的安全性方面误导客户。诉状指称其违反消费者保护规定、收集未成年人的数据，且未能充分防止未成年人使用；各州要求处以民事罚款、停止发布误导性的安全声明，并在某些案件中删除非法收集的个人数据。OpenAI 表示，ChatGPT 提供针对不同年龄的保护措施、家长控制功能和休息提醒，并将继续完善安全措施。

  33. AI at Meta · X42

    Meta 分享 10 篇借助 AI 完成的健康研究论文手稿

    Meta 表示，正在探索 AI 如何加速健康科学研究。医学专家使用由 Muse Spark 1.3 和 Muse Wonder 提供支持、以人为主导的研究框架，并访问 500 万份回顾性去标识化电子健康记录及公开数据，开展原创研究，加快假设生成、代码执行和论文手稿撰写，同时保留对科学决策的主导权。这 10 篇手稿涵盖心脏病学、肿瘤学、传染病学、急诊医学等领域。

  34. The Verge · AI64

    YouTube为AI生成的歌曲添加“AI制作”标签

    YouTube从今天起开始为主要使用生成式AI创作的曲目推出“AI制作”标签，首先在YouTube Music上线，之后将扩展到YouTube主应用。听众可在播放器页面点按该标签，查看更多信息。YouTube表示，它会结合音乐合作伙伴的披露信息和自有检测工具来识别曲目，包括含有AI生成的乐曲和人声的曲目。

  35. The Verge · AI75

    州检察长在 Character.AI 破产出售案中寻求用户数据保护措施

    40个两党合作的州检察长正在寻求为 Character.AI 破产程序中的消费者数据提供保障。此前，该公司周二宣布将申请《破产法》第11章破产保护，并向迪士尼出售部分资产。纽约州总检察长 Letitia James 披露，多个州于2024年启动了一项调查，关注消费者保护和隐私问题。各州希望任何收购方都落实年龄核验措施、限制未成年人与聊天机器人互动、设置危机防护措施，并为用户提供删除其数据的选项。