跳到正文
全部动态 · 今日9条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
9月22日周二
  1. Kimi · X32

    Kimi K3 上线 Amazon Bedrock

    Kimi K3 现已登陆 Amazon Bedrock! 借助 Bedrock 的访问、加密和审计控制,运行编码、文档分析和扩展智能体工作流。支持显式 prompt caching。 在 AWS 上开始用 K3 构建 👉 https://docs.aws.amazon.com/bedrock/latest/userguide/model-card-moonshot-ai-kimi-k3.html

  2. Latent Space76

    TypeSafe AI 创始人 Diogo Almeida 谈 Jev 与 RLCD:为软件而非聊天造 System 1 模型

    TypeSafe AI 创始人 Diogo Almeida 在 Latent Space 访谈中介绍新模型 Jev,称其为面向代码消费的 System 1 模型,按每美元智能而非聊天体验优化,核心创新是未发表的 RLCD(Reinforcement Learning for Calibrated Decisions),用校准概率替代人类评分反馈。

    推荐理由:Diogo Almeida 复盘 RLHF 到 RLCD 的路线分歧,并解释为何把可靠性而非基准分数当作模型目标。

9月21日周一
  1. NVIDIA Blog36

    NVIDIA 谈 AI 安全:如何在 Agent 栈的每一层解决这一工程问题

    NVIDIA 提出 AI 安全是工程问题,需要可执行的控制、明确的责任人和验证证据,并强调安全边界必须独立于智能体推理之外。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外强制执行策略并提供沙箱化执行,Cisco DefenseClaw 与 JFrog 已在其上构建治理与技能扫描能力。

9月17日周四
  1. GitHub Blog · AI & ML78

    GitHub 用 Copilot 把 Copilot 运行时迁移到 Rust

    GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust,代码主要由 AI 智能体编写,分布在 128 个 PR 中增量合入 main,而非一次性切换。

    推荐理由:作者以亲历者身份复盘 80 万行 Rust 重写,给出可迁移的智能体编排与评审方法。

9月16日周三
  1. NVIDIA Blog62

    NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能

    NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。

    推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化幅度,可用于判断推理基础设施的性价比走向。

  2. NVIDIA Blog42

    Emerald AI、Google 与 NVIDIA 发起 AI 能源管理联盟 AEMA

    Emerald AI、Google 和 NVIDIA 宣布成立 AI 能源管理联盟(AEMA),推动数据中心根据电网状况动态调节用电。该联盟采用技术中立、基于性能的要求,聚焦响应速度、持续时长、可预测性和应急行为等可量化指标,并制定并网前降载与应急响应义务、统一技术标准与数据共享、加快并网路径及按实际系统影响分摊成本。

  3. NVIDIA Blog62

    NVIDIA 详解 DSX 平台:MaxLPS 让同等电力预算多出 24% token 吞吐

    NVIDIA 在 AI Infra Summit 上介绍其 DSX 平台,其中 DSX MaxLPS 在 Lambda 的五机架 19 节点 HGX B200 集群上验证,在相同电力预算下集群 token 吞吐提升 24%,从约每秒 400 万 token 升至 500 万,每瓦性能提升 23%。

    推荐理由:原文给出 DSX MaxLPS 在 Lambda 集群上的实测数字,读者可据此判断固定电力预算下的吞吐提升空间。

9月15日周二
9月12日周六
9月11日周五
9月10日周四
9月9日周三
  1. Mistral AI58

    Mistral 如何用 AI 智能体迁移 4 万行 Fortran 遗留代码

    Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 的油藏模拟器迁移到 C++,该代码库没有测试套件也没有集中文档。团队先搭建数值对齐测试框架,用 Skill.md 引导智能体导出 Fortran 状态快照并在 C++ 侧校验,再用自定义解析器生成调用树、由 Vibe CLI 调度上百个智能体结合 Mistral OCR 补文档。

9月5日周六
9月3日周四
9月1日周二
  1. Hugging Face Blog62

    Hugging Face 发布 @huggingface/kernels:207 个 WebGPU kernel 与 Fleet 基准工具

    Hugging Face 发布 @huggingface/kernels,一个从 Hub 加载并运行优化 WebGPU kernel 的 JavaScript 库,同时上线 207 个 kernel 的初始集合,均以 Apache-2.0 许可、独立仓库形式发布,包含 manifest、正确性用例、基准用例和 WGSL 着色器模板。

    推荐理由:Hugging Face 把 207 个 WebGPU kernel 连同契约、测试和基准一起发布,读者可据此判断浏览器端推理的底层可复用程度。

8月25日周二
  1. Hugging Face Blog62

    Hugging Face 在 Gradio 中推出 gr.Workflow,把 AI 流水线做成可拖拽画布

    Hugging Face 在 Gradio 中推出 gr.Workflow,把多步 AI 流水线描述为由引用、算子、主体三类节点组成的图,Gradio 直接提供可拖拽画布,每个节点可运行、每个中间结果可见。

    推荐理由:原文给出 gr.Workflow 的节点类型、REST 端点与部署路径,读者可据此判断多步 AI 流水线如何落地。

  2. Mistral AI · X38

    Mistral 与 HUMAIN 达成战略合作

    今天,我们宣布与 @HUMAIN 达成战略合作,涵盖 AI 基础设施、先进模型开发,以及在沙特阿拉伯及整个地区部署 AI 解决方案。 我们将共同开发本地化的前沿 AI 模型,初期重点领域包括网络安全、语音,以及在阿拉伯语系语言中表现强劲的模型。 https://mistral.ai/news/mistral-x-humain/

  3. Mistral AI36

    Mistral 与 HUMAIN 达成战略合作,推进沙特及中东主权 AI

    Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署,初期聚焦网络安全和语音,并计划开发阿拉伯语表现强劲的前沿模型。合作规模达数亿欧元,Mistral 将探索使用 HUMAIN 数据中心基础设施,双方还将在沙特面向受监管行业制定联合市场策略。

8月22日周六
  1. Thinking Machines · X47

    我们希望提升 Inkling 的智能体表现。为了帮助我们了解它在现实中的行为,我们从现在起将在接下来的几周内通过 OpenRouter 免费提供该模型(仅限搭配智能体框架使用)。我们会使用与账户脱离关联的数据来改进它。

    我们希望提升 Inkling 的智能体表现。为了帮助我们了解它在现实中的行为,我们从现在起将在接下来的几周内通过 OpenRouter 免费提供该模型(仅限搭配智能体框架使用)。我们会使用与账户脱离关联的数据来改进它。

8月21日周五
8月20日周四
  1. Mistral AI71

    Mistral 发布 Agentic Search,检索准确率最高提升约 3 倍

    Mistral 发布 Agentic Search,一种面向企业复杂文档的多步检索层,通过 search、open、navigate、read、grep 五个工具让模型在回答前检查、导航并核实来源。

    推荐理由:原文给出多步检索循环在 FinanceBench 与 OfficeQA Pro 上的准确率、token 与延迟变化,可据此判断传统 RAG 的替代路径。

8月19日周三
  1. Jeremy Howard · X50

    Sentence Transformers v6.0 新增对 ColBERT 风格后期交互模型的支持

    Jeremy Howard 强调了 Sentence Transformers 对 @answerdotai 的 ColBERT 模型的支持,称其速度惊人、准确度极高,且仅有 30M,并可直接在 Python 中创建和查询本地嵌入索引。在引用的公告中,@tomaarsen 发布了 Sentence Transformers v6.0,并推出 MultiVectorEncoder,将其作为一流的模型类型,用于 ColBERT 风格的训练、推理和解读,与密集、稀疏及重排序模型并列。

8月18日周二
8月14日周五
  1. Hugging Face Blog62

    用 Strands Agents、LeRobot 和 Hugging Face Storage Buckets 完成录制、训练与部署闭环

    Hugging Face 博客给出 Strands Robots 的流式数据闭环教程:同一个 Robot() 录制 LeRobotDataset 并同步进 Storage Bucket,再通过 stream_dataset() 直接从 Hub 流式读取训练,无需先下载整个数据集,训练好的 checkpoint 只需把 mode 改为 real 即可部署回硬件。

    推荐理由:以 Strands Robots 为例拆解机器人数据闭环,读者可据此理解录制、流式训练与部署如何共用一套 LeRobot 格式。

8月11日周二
  1. Mistral AI62

    Mistral 推出区域推理端点与 Priority Tier,并接入 GLM-5.2 等第三方开源模型

    Mistral 宣布三项推进 AI 主权的举措:Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,为关键业务负载提供自定义速率限制和带 SLA 的正常运行时间承诺。

    推荐理由:Mistral 把区域推理端点、优先级服务层与第三方开源模型接入放在同一套基础设施上,读者可据此判断主权 AI 的落地形态。