Hugging Face 让 vLLM 的 transformers 建模后端达到原生速度
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已追平甚至超过 vLLM 手写原生实现的吞吐。该后端通过 torch.fx 做静态图分析、用 ast 改写源码，在运行时动态融合推理专用算子，从而匹配自定义实现的速度。
推荐理由：原文给出 transformers 后端在 vLLM 中追平原生实现的具体架构与开关，读者可据此判断迁移成本。
87 条精选近 30 天 47条共收录 371条
更新精选归档 · 第 4 页
Hugging Face Blog精选62
Hugging Face Blog精选62 Microsoft Foundry 上线 Hugging Face 模型托管计算
Microsoft 在 Build 2026 上宣布 Foundry Managed Compute 与 Hugging Face 模型集合，将 Hugging Face 生态的开源权重模型以每周刷新的策展目录形式引入 Foundry Model Catalog，可一键部署到托管 GPU 平台。
推荐理由：原文给出模型上架、运行时自动升级与一键部署的完整链路，读者可据此判断开源模型进入企业生产环境的门槛变化。
Hugging Face Blog精选71 SkyPilot 与 Hugging Face 联合推出零出网费存储挂载
SkyPilot 与 Hugging Face 联合发布 store: hf 存储后端，用一条 hf:// URL 和现有 HF_TOKEN 即可把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。
推荐理由：原文给出跨云挂载 Hub 数据的具体配置与免出网费机制，读者可据此判断多云训练与推理的存储成本变化。
Hugging Face Blog精选62 Hugging Face 与 Cerebras 将 Gemma 4 接入实时语音 AI
Hugging Face 与 Cerebras 演示了一套实时语音到语音管线，用 Cerebras 加速 Gemma 4 31B 的推理，把语音交互延迟压到更接近自然对话。
推荐理由：原文给出了一条可替换的实时语音到语音开源管线，读者可据此判断低延迟语音交互的工程组合方式。
Google Research精选60 Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，把多 Token 预测（MTP）头挂到已冻结的 Gemini Nano v3 模型上，在不改动主干权重的前提下加速端侧生成。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，给出端侧推理在内存与能耗约束下的具体做法和收益。
Mistral AI精选62 Mistral 发布 OCR 4，支持 170 种语言并可单容器自托管
Mistral 发布 OCR 4，在提取文本之外返回边界框、块类型分类和逐页逐词置信度分数，支持 170 种语言、10 个语系，可打包进单个容器完全自托管。
推荐理由：OCR 4 把边界框、块分类和置信度分数一并输出，读者可据此判断文档解析如何接入 RAG 与智能体流程。
Google DeepMind精选71 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式一次性并行生成整块文本，在专用 GPU 上文本生成最高提速 4 倍，单张 NVIDIA H100 上超过 1000 tokens/秒，RTX 5090 上超过 700 tokens/秒。
推荐理由：Google DeepMind 开源文本扩散模型，给出速度与硬件门槛的具体数字，可据此判断本地交互式推理的可行性。
Mistral AI精选67 Mistral 发布工业工程 AI 栈与 Vibe 智能体，并宣布法国 10 MW 数据中心
Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，同时保持对专有数据和 IP 的控制。
推荐理由：Mistral 一次性给出工业 AI 栈、Vibe 智能体和自建推理数据中心三条线，可看清其企业级全栈布局。
Mistral AI精选62 Mistral AI 发布 Search Toolkit 公开预览版
Mistral AI 发布 Search Toolkit 公开预览版，这是一个用于构建 AI 应用生产级搜索管道的可组合框架，开源并支持云端、本地和边缘部署。它把摄取、检索和评测整合到共享接口下，内置 BM25 稀疏检索、稠密向量检索和混合配置，并提供 recall、precision、MRR、NDCG 等评测指标。
推荐理由：Mistral 把摄取、检索、评测放进同一框架，读者可据此判断 RAG 检索质量如何被单独衡量。
Mistral AI精选62 Mistral 推出物理 AI，将 Emmi AI 并入企业平台
Mistral 宣布将 Emmi AI 并入公司，推出面向工业工程的物理 AI 能力，作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测物理场，单次前向推理在单张 GPU 上以秒级完成，用于设计迭代，传统求解器保留用于验证和边界情况。
推荐理由：Mistral 把物理仿真模型并入企业平台，读者可据此判断工业设计流程的算力与迭代节奏会如何变化。
Mistral AI精选62 Mistral 在 Studio 发布 Connectors，支持内置与自定义 MCP
Mistral 在 Studio 发布 Connectors（公开预览），内置连接器和自定义 MCP 均可通过 API/SDK 用于所有模型与智能体调用。新增直接工具调用，让开发者自行决定工具何时被调用；同时支持 human-in-the-loop 审批流程，在工具执行前由应用确认。
推荐理由：原文给出了连接器的注册、调用与人工审批代码路径，读者可据此判断企业级工具集成方式的变化。
Google DeepMind精选80 Google DeepMind 回顾 AlphaEvolve 一年进展：从数学发现到 TPU 与商业落地
Google DeepMind 发布 AlphaEvolve 一年影响汇总，这款由 Gemini 驱动的编码智能体已从数学与计算机科学的开放问题探索，扩展为 Google 基础设施的核心组件。
推荐理由：官方汇总 AlphaEvolve 一年落地案例，读者可据此判断算法智能体在科研与基础设施中的实际渗透程度。
Mistral AI精选71 Mistral AI 发布 Workflows 公开预览版
Mistral AI 发布企业 AI 编排层 Workflows 公开预览版，提供持久执行、可观测性和容错能力，用于把 AI 流程从概念验证推进到生产环境。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等组织已用它自动化关键流程。
推荐理由：原文给出 Workflows 的持久执行、可观测与人工审批能力，读者可据此判断企业级 AI 流程落地需要哪些编排条件。
Google DeepMind精选62 Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，把大规模训练拆成异步通信的计算孤岛，降低带宽需求并隔离硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并重新接入，用 Gemma 4 模型达到与传统方法相同的 ML 性能。
推荐理由：原文给出跨数据中心异步训练在带宽、容错和跨代硬件上的实测结果，可据此判断分布式预训练的工程取舍。
Google Research精选62 Google 发布 TurboQuant 向量压缩算法，KV cache 压至 3 bit 且精度无损
Google 发布 TurboQuant 压缩算法，可将 KV cache 量化到 3 bit，无需训练或微调且不损失模型精度，同时把 KV 内存占用降低至少 6 倍。
推荐理由：Google 给出 TurboQuant 的算法细节与基准结果，读者可据此判断 KV cache 压缩在长上下文场景的可用性。
Mistral AI精选62 Mistral AI 推出企业级模型训练系统 Forge
Mistral AI 发布 Forge，一套让企业基于自有专有知识构建前沿级 AI 模型的系统，覆盖预训练、后训练和强化学习等阶段，支持 dense 与 MoE 架构及多模态输入。
推荐理由：原文给出了企业用自有数据训练前沿模型的分阶段能力与已合作机构，可据此判断企业自建模型的门槛与路径。
Mistral AI精选65 Mistral 发布 OCR 3，表单与手写场景胜率较上一代达 74%
Mistral AI 发布 Mistral OCR 3，在表单、扫描文档、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，并称在准确率上超过企业文档处理方案和 AI 原生 OCR 方案。
推荐理由：官方给出与上一代在表单、手写和表格上的胜率对比，以及每千页定价，可据此判断文档解析成本与适用场景。
Mistral AI精选82 Mistral 发布 Mistral 3 系列，含 675B 参数 Mistral Large 3 与 3B/8B/14B Ministral 3
Mistral 发布 Mistral 3 系列，包括 3B、8B、14B 三个稠密小模型和采用稀疏 MoE 架构的 Mistral Large 3，后者为 41B 激活、675B 总参数，全部以 Apache 2.0 许可开源。
推荐理由：Mistral 3 一次性放出从 3B 到 675B 的 Apache 2.0 权重，读者可据此判断开源模型在端侧与前沿两端的可选空间。
Mistral AI精选62 Mistral 推出面向企业 AI 生产的 AI Studio
Mistral 推出 AI Studio，这是一个企业平台，整合了 Observability、Agent Runtime 和 AI Registry，可用于构建、评估和运行生产环境中的 AI。它将生产反馈与评估相连接，通过基于 Temporal 构建的有状态运行时执行智能体，并跟踪资产沿袭、版本和访问控制。该平台支持混合部署、专用部署和自托管部署，Mistral 邀请各组织报名参加其私人测试版。
推荐理由：该平台整合了评估、持久化智能体执行和资产治理，展现了企业团队如何在 AI 工作流中将生产反馈与受控迭代相结合。
Mistral AI精选62 Mistral 发布 Codestral 25.08 及企业级编码栈
Mistral AI 发布 Codestral 25.08，并推出面向企业的完整编码栈，包含 Codestral、Codestral Embed、Devstral 和 Mistral Code IDE 插件。
推荐理由：原文给出 Codestral 25.08 的补全提升数据与整套企业编码栈的部署方式，可据此判断私有化编码方案的落地路径。