Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，把多 Token 预测（MTP）头挂到已冻结的 Gemini Nano v3 模型上，在不改动主干权重的前提下加速端侧生成。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，给出端侧推理在内存与能耗约束下的具体做法和收益。
69 条精选近 30 天 48条共收录 216条
更新精选归档 · 第 4 页
Google Research精选60
Google DeepMind精选71 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式一次性并行生成整块文本，在专用 GPU 上文本生成最高提速 4 倍，单张 NVIDIA H100 上超过 1000 tokens/秒，RTX 5090 上超过 700 tokens/秒。
推荐理由：Google DeepMind 开源文本扩散模型，给出速度与硬件门槛的具体数字，可据此判断本地交互式推理的可行性。
Andrej Karpathy · X精选78 Karpathy 评 Claude Fable 5 发布：与 Mythos 同底模，长任务能力显著跃升
Andrej Karpathy 评价 Claude Fable 5 发布，指出它与 Mythos 是同一底层模型，只是增加了安全防护，在几乎所有基准上以一定幅度达到 SOTA。
推荐理由：Karpathy 以第一手使用体验判断 Fable 5 是值得大版本号跃升的一步，并给出长任务场景下的具体变化。
Google DeepMind精选78 Google DeepMind 发布 Gemma 4 12B：统一的无编码器多模态模型
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本电脑的智能体多模态模型，介于边缘端 E4B 与 26B MoE 之间，也是其首个支持原生音频输入的中等规模模型。
推荐理由：Gemma 4 12B 去掉多模态编码器并把视觉音频直接接入 LLM，读者可据此判断本地多模态智能体的硬件门槛。
Google Research精选62 Google 提出 ReasoningBank：让智能体从成功与失败经验中学习
Google Research 在 ICLR 论文中提出 ReasoningBank，一种从成功和失败经验中提炼高层结构化推理记忆的智能体记忆框架，代码已开源。
推荐理由：论文给出从成功与失败经验中提炼推理记忆的闭环方法，并附 WebArena 与 SWE-Bench-Verified 上的成功率与步数变化。
Google Research精选62 Google 发布 TurboQuant 向量压缩算法，KV cache 压至 3 bit 且精度无损
Google 发布 TurboQuant 压缩算法，可将 KV cache 量化到 3 bit，无需训练或微调且不损失模型精度，同时把 KV 内存占用降低至少 6 倍。
推荐理由：Google 给出 TurboQuant 的算法细节与基准结果，读者可据此判断 KV cache 压缩在长上下文场景的可用性。
Mistral AI精选78 Mistral 发布 Mistral Small 4，统一推理、多模态与编码能力
Mistral AI 发布 Mistral Small 4，这是 Mistral Small 系列的下一个主要版本，也是首个把 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一到单一模型中的 Mistral 模型，采用 Apache 2.0 许可。
推荐理由：Mistral 把推理、多模态与编码能力合并进一个开源小模型，并给出可调推理强度与部署门槛，便于判断其落地成本。
Mistral AI精选62 Mistral 为 Le Chat 上线 Deep Research、语音模式等多项新功能
Mistral 为 Le Chat 推出一批新功能，包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects，以及与 Black Forest Labs 合作的图像编辑。
推荐理由：Mistral 一次性把深度研究、语音、推理与图像编辑并入 Le Chat，可据此判断其助手产品的能力边界。
Mistral AI精选72 Mistral AI 发布首个推理模型 Magistral
Mistral AI 发布首个推理模型 Magistral，分为 24B 参数的开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由：Mistral 首个推理模型同时给出开源权重与企业版，并公开 AIME2024 成绩与训练论文，便于对比其推理路线。