跳到正文
全部动态 · 今日3条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

9月3日周四
9月1日周二
  1. Hugging Face Blog62

    Hugging Face 发布 @huggingface/kernels:207 个 WebGPU kernel 与 Fleet 基准工具

    Hugging Face 发布 @huggingface/kernels,一个从 Hub 加载并运行优化 WebGPU kernel 的 JavaScript 库,同时上线 207 个 kernel 的初始集合,均以 Apache-2.0 许可、独立仓库形式发布,包含 manifest、正确性用例、基准用例和 WGSL 着色器模板。

    推荐理由:Hugging Face 把 207 个 WebGPU kernel 连同契约、测试和基准一起发布,读者可据此判断浏览器端推理的底层可复用程度。

8月25日周二
  1. Hugging Face Blog62

    Hugging Face 在 Gradio 中推出 gr.Workflow,把 AI 流水线做成可拖拽画布

    Hugging Face 在 Gradio 中推出 gr.Workflow,把多步 AI 流水线描述为由引用、算子、主体三类节点组成的图,Gradio 直接提供可拖拽画布,每个节点可运行、每个中间结果可见。

    推荐理由:原文给出 gr.Workflow 的节点类型、REST 端点与部署路径,读者可据此判断多步 AI 流水线如何落地。

  2. Mistral AI36

    Mistral 与 HUMAIN 达成战略合作,推进沙特及中东主权 AI

    Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署,初期聚焦网络安全和语音,并计划开发阿拉伯语表现强劲的前沿模型。合作规模达数亿欧元,Mistral 将探索使用 HUMAIN 数据中心基础设施,双方还将在沙特面向受监管行业制定联合市场策略。

8月21日周五
8月20日周四
  1. Mistral AI71

    Mistral 发布 Agentic Search,检索准确率最高提升约 3 倍

    Mistral 发布 Agentic Search,一种面向企业复杂文档的多步检索层,通过 search、open、navigate、read、grep 五个工具让模型在回答前检查、导航并核实来源。

    推荐理由:原文给出多步检索循环在 FinanceBench 与 OfficeQA Pro 上的准确率、token 与延迟变化,可据此判断传统 RAG 的替代路径。

8月18日周二
8月14日周五
  1. Hugging Face Blog62

    用 Strands Agents、LeRobot 和 Hugging Face Storage Buckets 完成录制、训练与部署闭环

    Hugging Face 博客给出 Strands Robots 的流式数据闭环教程:同一个 Robot() 录制 LeRobotDataset 并同步进 Storage Bucket,再通过 stream_dataset() 直接从 Hub 流式读取训练,无需先下载整个数据集,训练好的 checkpoint 只需把 mode 改为 real 即可部署回硬件。

    推荐理由:以 Strands Robots 为例拆解机器人数据闭环,读者可据此理解录制、流式训练与部署如何共用一套 LeRobot 格式。

8月11日周二
  1. Mistral AI62

    Mistral 推出区域推理端点与 Priority Tier,并接入 GLM-5.2 等第三方开源模型

    Mistral 宣布三项推进 AI 主权的举措:Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,为关键业务负载提供自定义速率限制和带 SLA 的正常运行时间承诺。

    推荐理由:Mistral 把区域推理端点、优先级服务层与第三方开源模型接入放在同一套基础设施上,读者可据此判断主权 AI 的落地形态。

  2. Hugging Face Blog62

    NVIDIA 发布 Magpie TTS 多语言开源权重模型,新增阿拉伯语、韩语和巴西葡萄牙语

    NVIDIA 发布 Magpie TTS Multilingual,一个 364M 参数的开源权重语音合成模型,支持 12 种语言,本次新增现代标准阿拉伯语、韩语和巴西葡萄牙语,并通过更新训练数据提升了多个既有语言的质量。

    推荐理由:原文给出 364M 开源 TTS 的多语言扩展与各 GPU 上的 TTFA 实测数据,可据此评估自建语音链路的延迟预算。

8月10日周一
8月6日周四
8月4日周二
  1. Microsoft Research72

    微软研究院开源 Orchard:面向可扩展智能体 AI 的开放框架

    微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用地支持软件工程、网页导航和个人助理等不同任务与智能体系统。

    推荐理由:微软研究院开源了可复用的智能体环境服务与三套训练配方,读者可据此了解小模型在真实部署框架内训练的做法。

7月30日周四
  1. Hugging Face Blog22

    GPU 管理:为什么闲置 GPU 正在成为新的停飞客机

    Hugging Face 博客指出,AI 的下一个真正约束是 GPU 利用率而非模型智能。GPU 成本按日历小时累积、产出却只按计算小时计,企业自购 GPU 后集群上线即面临"能否让它们保持忙碌"的新问题。文章以航空业利用率为类比,称即便满负荷的集群也可能浪费大部分潜力,因为 GPU 全天运行而需求并非如此。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把内核优化经验带到 Apple Silicon

    Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验自动适配 Apple Silicon。

    推荐理由:原文给出了 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可看到跨平台内核知识迁移的具体做法。

7月27日周一
7月16日周四
7月10日周五
7月9日周四
  1. Mistral AI50

    Mistral Studio 为 Prompts 和 Skills 提供系统级记录管理

    Mistral Studio 现已面向客户提供 Prompts 和 Skills 的集中管理系统,每个资产都具备版本记录、明确归属和可追溯性。版本一经发布即不可更改,支持版本对比、回滚、分类标签和审计日志,并可通过 MCP server 直接调用。资产从仅创建者可见逐步晋升至工作区乃至全组织,数据始终保留在企业边界内。

7月8日周三
  1. Hugging Face Blog62

    Hugging Face 让 vLLM 的 transformers 建模后端达到原生速度

    Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已追平甚至超过 vLLM 手写原生实现的吞吐。该后端通过 torch.fx 做静态图分析、用 ast 改写源码,在运行时动态融合推理专用算子,从而匹配自定义实现的速度。

    推荐理由:原文给出 transformers 后端在 vLLM 中追平原生实现的具体架构与开关,读者可据此判断迁移成本。

7月7日周二
  1. Hugging Face Blog62

    Microsoft Foundry 上线 Hugging Face 模型托管计算

    Microsoft 在 Build 2026 上宣布 Foundry Managed Compute 与 Hugging Face 模型集合,将 Hugging Face 生态的开源权重模型以每周刷新的策展目录形式引入 Foundry Model Catalog,可一键部署到托管 GPU 平台。

    推荐理由:原文给出模型上架、运行时自动升级与一键部署的完整链路,读者可据此判断开源模型进入企业生产环境的门槛变化。

  2. Hugging Face Blog71

    SkyPilot 与 Hugging Face 联合推出零出网费存储挂载

    SkyPilot 与 Hugging Face 联合发布 store: hf 存储后端,用一条 hf:// URL 和现有 HF_TOKEN 即可把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务,并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。

    推荐理由:原文给出跨云挂载 Hub 数据的具体配置与免出网费机制,读者可据此判断多云训练与推理的存储成本变化。

7月6日周一
7月1日周三
6月27日周六
6月25日周四
6月24日周三
6月23日周二
6月13日周六
  1. Google Research36

    谷歌支持加州大学圣地亚哥分校用 2000 台退役 Pixel 手机搭建低碳计算平台

    加州大学圣地亚哥分校在谷歌支持下,正用 2000 台退役 Pixel 手机的主板搭建数据中心,为数百名师生提供低成本、低碳的云计算。SPEC 基准显示 25-50 台手机约等于一台现代服务器,手机被组织成 25-50 台的 Kubernetes 自管理集群。该系统预计 2026 年秋季上线。

6月11日周四
  1. Google DeepMind71

    Google DeepMind 发布 DiffusionGemma:文本生成最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次性并行生成整块文本,在专用 GPU 上文本生成最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。

    推荐理由:Google DeepMind 开源文本扩散模型,给出速度与硬件门槛的具体数字,可据此判断本地交互式推理的可行性。

5月28日周四
  1. Mistral AI62

    Mistral AI 发布 Search Toolkit 公开预览版

    Mistral AI 发布 Search Toolkit 公开预览版,这是一个用于构建 AI 应用生产级搜索管道的可组合框架,开源并支持云端、本地和边缘部署。它把摄取、检索和评测整合到共享接口下,内置 BM25 稀疏检索、稠密向量检索和混合配置,并提供 recall、precision、MRR、NDCG 等评测指标。

    推荐理由:Mistral 把摄取、检索、评测放进同一框架,读者可据此判断 RAG 检索质量如何被单独衡量。

5月27日周三
  1. Mistral AI62

    Mistral 推出物理 AI,将 Emmi AI 并入企业平台

    Mistral 宣布将 Emmi AI 并入公司,推出面向工业工程的物理 AI 能力,作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测物理场,单次前向推理在单张 GPU 上以秒级完成,用于设计迭代,传统求解器保留用于验证和边界情况。

    推荐理由:Mistral 把物理仿真模型并入企业平台,读者可据此判断工业设计流程的算力与迭代节奏会如何变化。

5月22日周五
  1. Mistral AI62

    Mistral 在 Studio 发布 Connectors,支持内置与自定义 MCP

    Mistral 在 Studio 发布 Connectors(公开预览),内置连接器和自定义 MCP 均可通过 API/SDK 用于所有模型与智能体调用。新增直接工具调用,让开发者自行决定工具何时被调用;同时支持 human-in-the-loop 审批流程,在工具执行前由应用确认。

    推荐理由:原文给出了连接器的注册、调用与人工审批代码路径,读者可据此判断企业级工具集成方式的变化。

5月8日周五
5月6日周三
  1. Google DeepMind80

    Google DeepMind 回顾 AlphaEvolve 一年进展:从数学发现到 TPU 与商业落地

    Google DeepMind 发布 AlphaEvolve 一年影响汇总,这款由 Gemini 驱动的编码智能体已从数学与计算机科学的开放问题探索,扩展为 Google 基础设施的核心组件。

    推荐理由:官方汇总 AlphaEvolve 一年落地案例,读者可据此判断算法智能体在科研与基础设施中的实际渗透程度。