跳到正文
全部动态 · 今日9条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
10月13日周二
  1. AWS Machine Learning Blog75

    使用 Amazon Bedrock 上的 Grok 4.7 构建长周期智能体

    AWS 展示了如何使用 Amazon Bedrock 上的 Grok 4.7 构建和评估工具调用智能体,并在三项合成任务中比较四种推理力度。该智能体在 72 次运行中有 67 次回答正确;xhigh 为 18 次全对,而 low 答对 18 次中的 15 次,输出 token 数约为前者的八分之一。本指南涵盖任务设计、自动评分、生产监控和运维控制,并指出这些小规模结果仅供参考,不足以得出统计学上确凿的结论。

    推荐理由:答案可验证且唯一的任务,加上重复运行,为比较推理力度提供了一种可复用的方法;分别测量正确性和 token 数,则能具体体现两者之间的权衡。

  2. AWS Machine Learning Blog56

    ShipStation Global 如何在 Amazon Bedrock AgentCore 上构建 AI IT 服务台

    ShipStation Global 构建了 Deckhand,这是一个基于 Amazon Bedrock AgentCore 的 Slack IT 服务台智能体,可回答问题、分析错误截图,并创建或更新 Jira Service Management 工单。该实施指南介绍了其 Strands 智能体、知识检索、MCP 工具,以及如何使用 DSPy 的 Recursive Language Model 提取已解决的 Slack 线程。在最初三个月中,1,221 次智能体对话里有 812 次通过聊天解决,另有 409 次转为工单;正面反馈率从 4 月的 82% 上升到 6 月的 96%。

  3. Simon Willison36

    Simon Willison 构建 web-edit 0.1a0,可用手机编辑文件

    Simon Willison 构建了 web-edit 0.1a0,这是一个用于查看和编辑文件夹中文件的 Python Web 应用。他希望能用手机编辑凭据文件,又不让这些凭据经过 LLM。他打算通过 Tailscale 运行该应用,让智能体启动应用后,自己就能直接用手机编辑文件。这个编辑器使用 CodeMirror 6;Willison 说,他曾考虑使用 Monaco,但发现它在移动设备上的体验还不够好。

  4. Mistral AI · X37

    Mistral 模型加入 AI 卫星星座

    抬头看!Mistral 模型已进入轨道 🌍。 很荣幸与 @orbitworksspace 和 @LoftOrbital 携手,加入由 @NVIDIAAIInfra 支持的首个此类 AI 卫星星座。 @LoftOrbital 表示,@orbitworksspace 几周前发射了 Altair,这是由 50 颗卫星组成的 AI 星座中的第一颗。该星座将使用户能够在几分钟内收到 AI 生成的警报。@NVIDIAAIInfra 的解决方案支持 Mistral 的 Ministral 3 等模型,为用户的关键问题提供快速、可靠的答案。 Mistral 表示,很荣幸加入该星座。

  5. NVIDIA Blog76

    NVIDIA 详解 RTX Spark 笔记本上市前的软件更新

    在 RTX Spark 笔记本于 10 月 16 日(星期五)上市前,NVIDIA 及其合作伙伴正陆续推出软件功能和优化。更新包括简化本地智能体设置、通过 OpenShell 和 Microsoft Execution Containers 实现沙箱隔离,以及本地和云端模型路由。NVIDIA PAIR 结束测试阶段并支持 llama.cpp;Nemotron 3.5 Bolt 74B-A9B 24GB 将于 10 月 15 日(星期四)推出;创意应用、开发者工具和游戏也将获得 RTX Spark 支持和性能更新。

    推荐理由:这些协调推出的更新表明,在 RTX Spark 上采用本地智能体,取决于模型设置、沙箱隔离、路由以及桌面应用访问等环节的软件集成。

  6. 雷锋网48

    XGRIDS 将中国闽宁镇重建为包含 62 亿个高斯椭球的 3D 模型

    XGRIDS 将闽宁镇 23.5 平方公里的区域重建为连续的 3D 高斯模型,包含 62 亿个高斯椭球,并在中国中央广播电视总台的一部纪录片中亮相。该项目在 7 天内采集了 18.6 万张航空和地面图像以及 150 亿个 LiDAR 点;重建的几何精度达到厘米级,误差低于 2 cm。制作团队使用 XGRIDS 的 LCC Plugin for Unreal Engine,将该模型用于纪录片。

  7. vLLM · X58

    ReplaySSM 报告解码加速和生产应用,vLLM 已提供支持

    vLLM 称赞了 @zwljohnny、@tri_dao 和 @NVIDIA 的 ReplaySSM 工作,并表示 Mamba2 标准解码和基于 FlashInfer 的 MTP 支持已在 vLLM 中提供。 缓存 SSM 输入,并仅在需要时更新检查点,可减少循环状态的内存流量。 在被引用的帖子中,@zwljohnny 报告称,ReplaySSM 已用于 GLM-5.3-Flash 和 Kimi-K3 的生产环境,并已在 TensorRT-LLM、vLLM、FlashInfer 和 SGLang 中提供;标准解码最高提速 1.47x,推测解码最高提速 2.1x;低精度 SSM 状态的舍入误差不会沿递归传播。

  8. 量子位31

    Agile Robots在2026中国国际工业博览会上展示12项展品

    Agile Robots携12项展品亮相第26届中国国际工业博览会。博览会于10月12日至16日在上海举行,展品涵盖五大领域:具身智能、具身模型、科研、消费应用和工业部署。重点展品包括Mobile FR3 Duo科研平台、一款AI理疗与健康机器人,以及一款摄影机器人。本文由Agile Robots提供,并经授权由量子位转载。

  9. Aravind Srinivas · X67

    Perplexity Projects 如何将 Git 仓库用作智能体的共享工作区

    每个 Perplexity Project 都是一个 Git 仓库,旨在成为供智能体使用的 Git 托管平台。Srinivas 称,它没有 GitHub 的臃肿,因为不需要任何人审批。 每个智能体都有自己的短期沙盒,并将提交推送到 S3 上的共享仓库,提交冲突率不到 2%。 智能体使用简单的 `ls` 和 `grep` 进行搜索。Srinivas 报告称,在金融文档分析的答案准确率上,这种方式以 63% 对 37% 胜过语义搜索。

    同一新闻,精选展示《How Perplexity built the Projects filesystem as a Git forge for agents》

  10. AWS Machine Learning Blog67

    使用 Amazon Bedrock 全球跨区域推理访问 OpenAI GPT-6 模型指南

    AWS 说明了如何从泰国、马来西亚、新加坡、印度尼西亚和台湾通过 Amazon Bedrock 全球跨区域推理调用 OpenAI GPT-6 Sol 和 GPT-6 Luna,以及如何从新加坡调用 GPT-6 Astra。本指南涵盖 Converse、兼容 OpenAI 的 API、编码客户端、IAM 权限、SCP 例外、配额和监控。计费和配额跟踪仍在源区域进行,而请求则在受支持的目标区域运行;每个输出 token 消耗 10 个配额 token。

    推荐理由:本指南介绍了一种可迁移的方法,用于配置跨区域推理权限:将 SCP 例外限定于推理配置文件,同时保留对其他服务的区域控制。

  11. Simon Willison64

    Simon Willison 评测 Python 3.15,并采用 Python 3.11 的特性

    Simon Willison 评测 Python 3.15,并解释 Python 3.10 停止支持后,他的开源项目为何能采用 Python 3.11 的特性。重点包括显式惰性导入(可解决其 LLM 命令行插件的启动开销)、推导式中的解包,以及 Tachyon 采样分析器。他提供了 uv 升级命令,并指出现已可用的新特性,例如 tomllib、asyncio TaskGroup 和 SQLite 的改进,其中包括移除 Datasette 的兼容性变通方案。

  12. Perplexity · X67

    Perplexity 如何为智能体构建 Projects 文件系统,将其打造为 Git 锻造平台

    以下介绍 Perplexity 如何构建 Perplexity Projects 背后的文件系统,将其打造为智能体的 Git 锻造平台。 每个智能体都在自己的沙盒中工作,并将更改提交到共享代码仓库,方便人们和其他智能体在不同会话中接着开展工作。 阅读更多:https://t.co/jcrTptb2IW https://t.co/dXnhroO4mg

    推荐理由:这个共享代码仓库具体展示了,如何让不同智能体沙盒中的工作在不同会话中持续可供人们和其他智能体使用。

  13. AWS Machine Learning Blog66

    使用 Ray LLM 深度学习容器运行多节点推理工作负载

    AWS 展示了如何使用 Ray LLM 深度学习容器,在 Amazon EKS 上跨两个 GPU 节点部署 Qwen3.5-9B,并在一个兼容 OpenAI 的端点后配置独立的预填充和解码部署。该演示使用 YAML 配置应用,并通过 EFA 上的 NIXL 在节点间传输 KV 缓存。内容涵盖集群配置、模型调用、传输验证和资源清理。

    推荐理由:本指南提供了一种可迁移的部署模式,用于分离预填充和解码,并说明如何验证传输后端,避免通信悄然回退到 TCP 速度。

  14. AWS Machine Learning Blog61

    在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型

    AWS 介绍了如何在 Amazon SageMaker AI 上使用其 llama.cpp 深度学习容器部署 GGUF 模型,然后添加 SemIf 适配器,以便针对已声明的选项返回概率,而不生成答案词元。该指南包含 CPU 和 GPU 部署代码。在使用 Qwen3.5-4B Q4_K_M 完成的 231 项 JevBench 任务中,与 CPU 配置相比,GPU 配置的 p50 延迟快 4.9 倍,p95 延迟快 32.2 倍,且准确率相近。

    推荐理由:这种部署模式展示了应用如何为预定义选项评分,而无需解析生成的散文,同时将授权、阈值和回退规则保留在应用控制之下。

10月12日周一
  1. Aravind Srinivas · X40

    Aravind Srinivas 感谢 @MollySOShea 的交流

    @MollySOShea 表示,她与 Perplexity 创始人兼首席执行官 Aravind Srinivas 进行了交谈,探讨为什么原生 AI 的中小企业可能推动美国下一轮百万富翁经济繁荣。 聊得很愉快!感谢邀请我,@MollySOShea! https://twitter.com/mollysoshea/status/2109645765958132083

  2. NVIDIA Blog79

    NVIDIA 开放 Vera Rubin 机架设计,并扩展 AI 工厂基础设施

    NVIDIA 通过其开放式 MGX 架构向 OCP 提供了 Vera Rubin 机架和计算托盘设计,并为 DSX AI 工厂推出了开源组件。MGX 1.2 支持最高 250kW 的机架部署,并新增标准化的电源、冷却和互连接口。NVIDIA 及其合作伙伴还公布了设施和电网韧性规范;Meta 宣布采用 Spectrum-6 交换机;NVIDIA 与 Cisco 计划推出 USFP 光模块;NVIDIA 还将与 Google 合作,在未来的 ConnectX-10 SuperNIC 和 BlueField DPU 上支持 Falcon Transport。

    推荐理由:这些规范展示了共享的机架、冷却、电源和软件接口,如何为基础设施建设者提供通用的实施目标,以应对 AI 工厂不断提升的功率密度。

  3. TechCrunch · AI52

    Blueprints AI 称可在数分钟内生成可用于许可申请的建筑蓝图

    Blueprints AI 称,其软件可在数分钟内生成符合规范、可用于许可申请的建筑施工蓝图,并将于本周公开推出第二代版本。Version 2 可接收项目描述或草图,并生成建筑、结构、机械、电气、给排水和室内设计蓝图;设计变更会同步更新整个项目,并根据当地建筑规范进行检查。联合创始人表示,提交许可申请前,持证专业人士仍会审核并签署文件。

  4. The Decoder75

    微软计划到2027年将自研 Maia AI 芯片扩展至吉瓦级规模

    微软计划从2027年起大规模部署 Azure Maia AI 芯片,规模达到数吉瓦,并将其作为旗下各项产品的主要推理系统。高管 Scott Guthrie 写道,Maia 200 已在美国、欧洲和澳大利亚为 Microsoft Copilot 提供支持,GitHub Copilot 和 Foundry 也将在今年年底前跟进。Maia 300 将于2027年推出,面向长输入、快速聊天和智能体任务;微软称,与领先的 GPU 系统相比,其每兆瓦可处理的 token 多出40%,每个96芯片机架的 token 数量最高可达 Maia 200 机架的七倍。

  5. Mustafa Suleyman · X73

    微软推出 Maia 300,每瓦令牌数提升 40%

    Mustafa Suleyman 称微软的新芯片🔥,并强调“每瓦令牌数提升 40%!” 在引述的公告中,Satya Nadella 表示,Maia 300 的每瓦令牌数比领先的 GPU 系统高 40%;微软计划从下一个日历年开始部署多吉瓦规模的 Maia,作为其产品和服务的主要推理系统。他表示,Maia 200 已在美国、欧洲和澳大利亚投入部署,在 Teams 和 Copilot 体验中每瓦令牌数最高可达原来的 1.7 倍。 https://twitter.com/satyanadella/status/2109631106404487523

  6. Qwen · X61

    Qwen 推出 QwenGyre,用于极长时程智能体训练中的弹性 RL

    Qwen 推出 QwenGyre,将弹性 RL 引入极长时程(XLong)智能体训练。其弹性调度器可在不中断正在运行的执行任务的情况下,在 rollout 与训练之间重新分配 GPU;轨迹处理器则将分支执行转换为共享前缀的轨迹树,并生成数量有上限且去重的训练样本。QwenGyre 扩展至 Qwen3.8-2.4T-A95B、每次 rollout 约 700K 个 token 后,在 48 步内将 NL2RepoBench 的成绩从 52.5% 提升至 58.5%,并将端到端训练时间缩短约 44%(相较于 Async)。 论文:https://arxiv.org/abs/2609.33848

  7. 雷锋网62

    安踏如何在全球电商工作流中使用火山引擎 Agent

    安踏正在使用火山引擎 Agent制作宣传视频、处理海外订货和跨境退货。文章称,一个 ArkClaw 工作流将四种订货模板封装为 Skills,把订货决策时间从半天缩短至 10–20 分钟,减少约 90% 的人工录入,并将数据准确率提升至 99% 以上。一个退货 Agent 每月为安踏的 TikTok 跨境业务自动创建 1000 多份退货单,计划将其扩展至 FILA 和其他品牌。

  8. 雷锋网16

    百度世界2026将于11月12日在北京举行

    百度宣布,百度世界2026将于11月12日在北京国家会议中心二期举行,主题为“下一幕:智能组织”。活动计划设置1场主论坛、12场分论坛、30多场AI课程,以及面积达6,000平方米的展区。论坛将探讨AI驱动的组织变革,包括AI办公工具和智能体在企业中的部署。

  9. 宝玉 · X61

    Baoyu 使用 REA 和 Computer Use 调查 CapCut 字幕模板

    Baoyu 介绍了如何结合使用 REA 和 Computer Use,调查 CapCut 如何渲染动态字幕,而他并不知道这些字幕格式存储在哪里。他让它操作 CapCut、下载模板,并监控网络 URL 和磁盘保存位置。通过点击下载了几十个模板后,Codex 发现点击方式太慢,于是构造 URL 直接下载,最终下载了 2291 个模板。

10月11日周日
  1. The Verge · AI22

    在M5 Ultra Mac Studio上使用Hermes Agent和Qwen测试本地AI

    一位Verge作者开始在配备256GB统一内存的M5 Ultra Mac Studio上运行本地LLM,安装了开源Hermes Agent桌面应用和1250亿参数的Qwen 3.8 Flash Next模型,大小约105GB。早期任务包括通过Telegram发送每日简报、重新整理包含400多款游戏的Steam库以及本地数据分析;这位作者目前正在着手实现笔记本电脑基准测试的自动化。

  2. 量子位23

    西门子将在2026年CIIF展示工业全栈及人形机器人解决方案

    西门子将在第26届中国国际工业博览会上展示其工业全栈能力,包括首个覆盖设计、制造、装配及工厂现场应用的全端到端人形机器人解决方案。公司计划发布20多款新产品,并开放6个具身智能“进厂”场景,同时推出升级版“钻耀之心3.0”以及面向数据中心、电子与半导体、零碳工厂的应用。

  3. 量子位60

    硅谷的AI算力紧缺重塑人才与创业交易

    QbitAI的一篇综述认为,算力获取如今在硅谷驱动着人才留存、模型领先地位与商业化。文章提到Noam Shazeer在其团队算力被重新分配后离开谷歌加入OpenAI,Anthropic于5月与SpaceX达成交易,获得超过300兆瓦和22万块Nvidia GPU,以及SemiAnalysis数据显示,2025年10月至2026年3月期间,H100一年期租赁价格从每GPU小时1.70美元上涨至2.35美元。

10月10日周六
  1. The Decoder66

    微软发布基于 Qwen3.5-9B 的 Decision-1 决策模型

    微软发布了 Decision-1,这是一个用于分类、评估和路由决策的决策模型,基于 Qwen3.5-9B 构建。微软表示,该模型在涵盖近 150,000 个问题的 36 项基准测试中位居榜首,准确率达 83.5%,延迟为 85 毫秒,比排名第二的 H2O-Lightning-4B 快 2.5 倍。该模型可通过 Microsoft Foundry 和 OpenRouter 使用,价格为每百万输入 token 0.042 美元,输出 token 免费。

  2. Latent Space42

    Standard Bots 详述其工业机械臂的 AI 技术栈

    Standard Bots 自称“美国最大的 AI 原生工业机器人制造商”,介绍了其用于机器看护、焊接和装配的工业机械臂 AI 技术栈。其最大的模型参数量在数十亿级别,基于超过十亿张图像训练以实现零样本感知,训练在云端进行,推理则通过边缘 GPU 在本地运行。该公司最近在由 General Catalyst 和 RoboStrategy 领投的 C 轮融资中筹集了 2 亿美元,估值达 10 亿美元。

  3. 量子位60

    特斯拉在欧洲将FSD更名为辅助驾驶

    特斯拉已在德国、西班牙、荷兰和斯洛伐克的网站上,将“完全自动驾驶(监督版)”更名为“特斯拉辅助驾驶”,而美国网站仍保留原名称。德国交通部称FSD这一名称具有误导性,而这一更改是特斯拉自己提出的。德国交通部长表示,他将推动在欧盟范围内获得批准,不过原定于10月进行的投票已被推迟至至少12月。

  4. 雷锋网34

    GMIF 2026:日均140万亿Token调用,正在改变SSD的能力与分工

    截至今年3月,中国日均Token调用量突破140万亿,规模化推理正推动SSD从容量与持久化存储向计算侧延伸。三星展示Z-NAND架构,将模型权重放入Z-NAND、KV Cache留在DRAM;北美大型互联网公司已开始用大容量QLC SSD替代部分HDD。数据管理也从兜底式分层转向系统设计之初的主动分层与运行中的动态调度。

  5. TechCrunch · AI38

    Amazon 等公司不再对数据中心交易保密,这足以建立信任吗?

    Amazon 宣布在与地方政府谈判数据中心交易时不再使用保密协议,此前微软今年早些时候已采取类似举措。保密做法此前引发社区对 AI 基础设施的反对,从纽约到旧金山已出现数百项拟议和已生效的禁令。TechCrunch 的 Equity 播客讨论了放弃 NDA 是否会改变数据中心交易的达成方式,以及为何信任可能才是个人 AI 创业公司的真正产品。

10月9日周五
  1. Hugging Face Blog34

    Ai2 如何用 GPU 时间预算重构集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的预算分配流程。其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,约 150 名内部研究者的需求长期是可用算力的 2-3 倍。