Kimi K3 上线 Databricks
Kimi K3 现已在 @databricks 上线！
全部动态 · 今日9条
#部署/工程
信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
Kimi · X30 Hugging Face Blog精选62 NVIDIA 发布 Magpie TTS 多语言开源权重模型，新增阿拉伯语、韩语和巴西葡萄牙语
NVIDIA 发布 Magpie TTS Multilingual，一个 364M 参数的开源权重语音合成模型，支持 12 种语言，本次新增现代标准阿拉伯语、韩语和巴西葡萄牙语，并通过更新训练数据提升了多个既有语言的质量。
推荐理由：原文给出 364M 开源 TTS 的多语言扩展与各 GPU 上的 TTFA 实测数据，可据此评估自建语音链路的延迟预算。
Hugging Face Blog48 Hugging Face 提出高效知识蒸馏方法：离线 Top-K Logits 与融合分块 KL Loss
Hugging Face 最新论文提出两项系统改进，让大语言模型知识蒸馏的训练成本大幅下降：离线缓存教师模型的 top-100 logits，使教师模型无需与学生模型同时驻留显存；融合分块 KL loss 避免生成完整的词表×序列长度矩阵。
Hugging Face Blog22 Baseten 成为 Hugging Face Inference Providers 支持的服务商
Baseten 正式加入 Hugging Face Hub 的 Inference Providers 生态，首批支持对话与文本生成任务，可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。
Microsoft Research精选72 微软研究院开源 Orchard：面向可扩展智能体 AI 的开放框架
微软研究院发布开源框架 Orchard，核心是 Kubernetes 环境服务 Orchard Env，可复用地支持软件工程、网页导航和个人助理等不同任务与智能体系统。
推荐理由：微软研究院开源了可复用的智能体环境服务与三套训练配方，读者可据此了解小模型在真实部署框架内训练的做法。
Hugging Face Blog22 GPU 管理：为什么闲置 GPU 正在成为新的停飞客机
Hugging Face 博客指出，AI 的下一个真正约束是 GPU 利用率而非模型智能。GPU 成本按日历小时累积、产出却只按计算小时计，企业自购 GPU 后集群上线即面临"能否让它们保持忙碌"的新问题。文章以航空业利用率为类比，称即便满负荷的集群也可能浪费大部分潜力，因为 GPU 全天运行而需求并非如此。
Berkeley AI Research精选62 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX，并加入结构化的 CUDA 到 MLX 翻译层，让已有 CUDA 内核经验自动适配 Apple Silicon。
推荐理由：原文给出了 CUDA 到 MLX 的翻译层设计与两组内核实测数据，可看到跨平台内核知识迁移的具体做法。
Hugging Face Blog52 NVIDIA 发布 Cosmos-H-Dreams 实时生成式手术机器人仿真器
NVIDIA 发布 Cosmos-H-Dreams，一个面向手术机器人的实时、动作条件生成式仿真器，将 Cosmos-H-Surgical-Simulator 蒸馏为因果少步学生模型，并通过 FlashDreams 推理库在单张 NVIDIA RTX PRO 6000 GPU 上运行。
Hugging Face Blog48 模型路由并不简单：从分类问题到系统优化问题
在 AppWorld Test Challenge 的 417 个任务上，同一 CodeAct 智能体下 Claude Sonnet 4.6 总成本 79 美元（0.19 美元/任务），GPT-4.1 却达 155 美元（0.37 美元/任务），缓存命中率是主因。
Hugging Face Blog36 PyTorch 性能分析（第三部分）：Attention 全解析
Hugging Face 发布 "Profiling in PyTorch" 系列第三篇，用 NVIDIA A100-SXM4-80GB 对 attention 做 profiler 分析，展示朴素实现会额外触发一次 memory copy。将 masked_fill 改为原地操作 masked_fill_ 后，每次前向传播可减少一个 GPU kernel。
Mistral AI50 Mistral Studio 为 Prompts 和 Skills 提供系统级记录管理
Mistral Studio 现已面向客户提供 Prompts 和 Skills 的集中管理系统，每个资产都具备版本记录、明确归属和可追溯性。版本一经发布即不可更改，支持版本对比、回滚、分类标签和审计日志，并可通过 MCP server 直接调用。资产从仅创建者可见逐步晋升至工作区乃至全组织，数据始终保留在企业边界内。
Hugging Face Blog精选62 Hugging Face 让 vLLM 的 transformers 建模后端达到原生速度
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已追平甚至超过 vLLM 手写原生实现的吞吐。该后端通过 torch.fx 做静态图分析、用 ast 改写源码，在运行时动态融合推理专用算子，从而匹配自定义实现的速度。
推荐理由：原文给出 transformers 后端在 vLLM 中追平原生实现的具体架构与开关，读者可据此判断迁移成本。
Hugging Face Blog24 Hugging Face 与 Amazon SageMaker AI 打通一键直达 SageMaker Studio
Hugging Face 与 Amazon SageMaker AI 推出深度链接集成，用户在支持的模型页点击 Customize on SageMaker AI 或 Deploy on SageMaker AI，即可一键进入 SageMaker Studio，模型已预加载、环境自动配置。
Google Research36 Google Research 用 Google Maps 路由干预缓解城市拥堵
Google Research 在 Nature Cities 发表首个大规模真实世界研究，通过修改 Google Maps 算法将约 2% 的行程引导至替代路线，在美国 10 座城市测试六个月。结果显示目标路段行驶速度中位数提升约 2%，燃油消耗率中位数下降 0.5% 至 1.0%，每座城市每年可减少数千吨 CO2e 排放。
Hugging Face Blog精选62 Microsoft Foundry 上线 Hugging Face 模型托管计算
Microsoft 在 Build 2026 上宣布 Foundry Managed Compute 与 Hugging Face 模型集合，将 Hugging Face 生态的开源权重模型以每周刷新的策展目录形式引入 Foundry Model Catalog，可一键部署到托管 GPU 平台。
推荐理由：原文给出模型上架、运行时自动升级与一键部署的完整链路，读者可据此判断开源模型进入企业生产环境的门槛变化。
Berkeley AI Research40 智能免费之后怎么办？面向智能体、由智能体运行、由智能体构建的数据系统
伯克利 EPIC Data Lab 提出，随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10，数据系统面临三大新挑战：面向智能体的数据系统、由智能体运行的数据系统、由智能体构建的数据系统。
Hugging Face Blog精选71 SkyPilot 与 Hugging Face 联合推出零出网费存储挂载
SkyPilot 与 Hugging Face 联合发布 store: hf 存储后端，用一条 hf:// URL 和现有 HF_TOKEN 即可把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。
推荐理由：原文给出跨云挂载 Hub 数据的具体配置与免出网费机制，读者可据此判断多云训练与推理的存储成本变化。
Import AI52 Import AI 464：Fable 编写 GPU kernel、AI 自动化与模拟计算
Import AI 464 汇总多项研究进展。Fable 在 KernelBench-Mega 上写出 megakernel，在 RTX PRO 6000 Blackwell 上以 Cuda 实现 18.71X 加速，对比 Claude Opus 4.8 的 14.4X、GLM-5.2 的 11.14X 和 GPT 5.5 的 4.34X。
Hugging Face Blog37 Hugging Face Kernels 项目重大更新：新增 kernel 仓库类型、可信发布者与代码签名
Hugging Face 为 Kernels 项目引入 Hub 上的 "kernel" 仓库类型，并新增可信发布者与代码签名两层安全机制，默认只加载可信发布者的 kernel，其他来源需显式传入 trust_remote_code=True。
Hugging Face Blog精选62 Hugging Face 与 Cerebras 将 Gemma 4 接入实时语音 AI
Hugging Face 与 Cerebras 演示了一套实时语音到语音管线，用 Cerebras 加速 Gemma 4 31B 的推理，把语音交互延迟压到更接近自然对话。
推荐理由：原文给出了一条可替换的实时语音到语音开源管线，读者可据此判断低延迟语音交互的工程组合方式。
Google Research精选60 Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，把多 Token 预测（MTP）头挂到已冻结的 Gemini Nano v3 模型上，在不改动主干权重的前提下加速端侧生成。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，给出端侧推理在内存与能耗约束下的具体做法和收益。
Google Research31 Google 用线性弹性缓存优化云成本：Spanner 内存占用降 15.5%
Google Research 提出线性弹性缓存，把页面淘汰建模为滑雪租赁问题，用轻量机器学习动态调整缓存大小。在 Spanner 生产环境测试数月后，内存占用降低 15.5%，缓存未命中仅增加 5.5%，总拥有成本（TCO）降低约 5%，实际 I/O 成本影响仅 0.5%。
Mistral AI52 Mistral AI 为 Connectors 增加管理员控制、API key 作用域与调试器
Mistral AI 为 Connectors 推出多项新能力：管理员控制（GA）可按 workspace 或组织设置连接器访问并逐个开关工具，带连接器作用域的 API key（GA）防止自动化 AI 工作负载冒用身份，多账号连接器（GA）支持一个连接器绑定多个账号。
Mistral AI精选62 Mistral 发布 OCR 4，支持 170 种语言并可单容器自托管
Mistral 发布 OCR 4，在提取文本之外返回边界框、块类型分类和逐页逐词置信度分数，支持 170 种语言、10 个语系，可打包进单个容器完全自托管。
推荐理由：OCR 4 把边界框、块分类和置信度分数一并输出，读者可据此判断文档解析如何接入 RAG 与智能体流程。
Google Research36 谷歌支持加州大学圣地亚哥分校用 2000 台退役 Pixel 手机搭建低碳计算平台
加州大学圣地亚哥分校在谷歌支持下，正用 2000 台退役 Pixel 手机的主板搭建数据中心，为数百名师生提供低成本、低碳的云计算。SPEC 基准显示 25-50 台手机约等于一台现代服务器，手机被组织成 25-50 台的 Kubernetes 自管理集群。该系统预计 2026 年秋季上线。
Google DeepMind精选71 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式一次性并行生成整块文本，在专用 GPU 上文本生成最高提速 4 倍，单张 NVIDIA H100 上超过 1000 tokens/秒，RTX 5090 上超过 700 tokens/秒。
推荐理由：Google DeepMind 开源文本扩散模型，给出速度与硬件门槛的具体数字，可据此判断本地交互式推理的可行性。
Mistral AI精选67 Mistral 发布工业工程 AI 栈与 Vibe 智能体，并宣布法国 10 MW 数据中心
Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，同时保持对专有数据和 IP 的控制。
推荐理由：Mistral 一次性给出工业 AI 栈、Vibe 智能体和自建推理数据中心三条线，可看清其企业级全栈布局。
Mistral AI精选62 Mistral AI 发布 Search Toolkit 公开预览版
Mistral AI 发布 Search Toolkit 公开预览版，这是一个用于构建 AI 应用生产级搜索管道的可组合框架，开源并支持云端、本地和边缘部署。它把摄取、检索和评测整合到共享接口下，内置 BM25 稀疏检索、稠密向量检索和混合配置，并提供 recall、precision、MRR、NDCG 等评测指标。
推荐理由：Mistral 把摄取、检索、评测放进同一框架，读者可据此判断 RAG 检索质量如何被单独衡量。
Mistral AI精选62 Mistral 推出物理 AI，将 Emmi AI 并入企业平台
Mistral 宣布将 Emmi AI 并入公司，推出面向工业工程的物理 AI 能力，作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测物理场，单次前向推理在单张 GPU 上以秒级完成，用于设计迭代，传统求解器保留用于验证和边界情况。
推荐理由：Mistral 把物理仿真模型并入企业平台，读者可据此判断工业设计流程的算力与迭代节奏会如何变化。
Mistral AI精选62 Mistral 在 Studio 发布 Connectors，支持内置与自定义 MCP
Mistral 在 Studio 发布 Connectors（公开预览），内置连接器和自定义 MCP 均可通过 API/SDK 用于所有模型与智能体调用。新增直接工具调用，让开发者自行决定工具何时被调用；同时支持 human-in-the-loop 审批流程，在工具执行前由应用确认。
推荐理由：原文给出了连接器的注册、调用与人工审批代码路径，读者可据此判断企业级工具集成方式的变化。
Berkeley AI Research34 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了并行推理领域进展，指出当前多数方法（如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
Google DeepMind精选80 Google DeepMind 回顾 AlphaEvolve 一年进展：从数学发现到 TPU 与商业落地
Google DeepMind 发布 AlphaEvolve 一年影响汇总，这款由 Gemini 驱动的编码智能体已从数学与计算机科学的开放问题探索，扩展为 Google 基础设施的核心组件。
推荐理由：官方汇总 AlphaEvolve 一年落地案例，读者可据此判断算法智能体在科研与基础设施中的实际渗透程度。
Mistral AI精选71 Mistral AI 发布 Workflows 公开预览版
Mistral AI 发布企业 AI 编排层 Workflows 公开预览版，提供持久执行、可观测性和容错能力，用于把 AI 流程从概念验证推进到生产环境。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等组织已用它自动化关键流程。
推荐理由：原文给出 Workflows 的持久执行、可观测与人工审批能力，读者可据此判断企业级 AI 流程落地需要哪些编排条件。
Google DeepMind精选62 Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，把大规模训练拆成异步通信的计算孤岛，降低带宽需求并隔离硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并重新接入，用 Gemma 4 模型达到与传统方法相同的 ML 性能。
推荐理由：原文给出跨数据中心异步训练在带宽、容错和跨代硬件上的实测结果，可据此判断分布式预训练的工程取舍。
Mistral AI36 Mistral AI 推出 Spaces：一款为人类与 AI 智能体打造的 CLI
Mistral AI 发布 Spaces CLI，一款同时面向人类开发者与 AI 智能体的命令行工具，通过 `spaces init`、`spaces dev` 等命令可从零搭建带热重载、数据库和 Dockerfile 的多服务项目。
Google Research精选62 Google 发布 TurboQuant 向量压缩算法，KV cache 压至 3 bit 且精度无损
Google 发布 TurboQuant 压缩算法，可将 KV cache 量化到 3 bit，无需训练或微调且不损失模型精度，同时把 KV 内存占用降低至少 6 倍。
推荐理由：Google 给出 TurboQuant 的算法细节与基准结果，读者可据此判断 KV cache 压缩在长上下文场景的可用性。
Mistral AI精选62 Mistral AI 推出企业级模型训练系统 Forge
Mistral AI 发布 Forge，一套让企业基于自有专有知识构建前沿级 AI 模型的系统，覆盖预训练、后训练和强化学习等阶段，支持 dense 与 MoE 架构及多模态输入。
推荐理由：原文给出了企业用自有数据训练前沿模型的分阶段能力与已合作机构，可据此判断企业自建模型的门槛与路径。
Mistral AI34 Heaps do lie：排查 vLLM 内存泄漏
Mistral AI 团队在 vLLM 上排查一起内存泄漏：在 Mistral Medium 3.1、启用 graph compilation 的 Prefill/Decode 分离部署中，系统内存以每分钟 400 MB 线性增长，数小时后触发 out of memory。Heaptrack 显示堆内存稳定，泄漏发生在堆之外，最终定位到经 NIXL 与 UCX 的 KV Cache 传输环节。
Mistral AI精选65 Mistral 发布 OCR 3，表单与手写场景胜率较上一代达 74%
Mistral AI 发布 Mistral OCR 3，在表单、扫描文档、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，并称在准确率上超过企业文档处理方案和 AI 原生 OCR 方案。
推荐理由：官方给出与上一代在表单、手写和表格上的胜率对比，以及每千页定价，可据此判断文档解析成本与适用场景。
Mistral AI精选82 Mistral 发布 Mistral 3 系列，含 675B 参数 Mistral Large 3 与 3B/8B/14B Ministral 3
Mistral 发布 Mistral 3 系列，包括 3B、8B、14B 三个稠密小模型和采用稀疏 MoE 架构的 Mistral Large 3，后者为 41B 激活、675B 总参数，全部以 Apache 2.0 许可开源。
推荐理由：Mistral 3 一次性放出从 3B 到 675B 的 Apache 2.0 权重，读者可据此判断开源模型在端侧与前沿两端的可选空间。