跳到正文
2026.10.17 · 周六

#端侧

#端侧

一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月14日周三
  1. Google DeepMind63

    Google DeepMind 与新加坡 GovTech 推出用于诈骗检测的设备端 Gemma 模型

    Google DeepMind 与新加坡政府科技局(GovTech)推出了一款 Gemma 模型,该模型基于本地诈骗对话进行微调,并针对新加坡常见的智能手机进行了优化。轻量级分类器会先筛查收到的消息,随后模型评估更广泛的对话上下文,并针对疑似操纵行为发出警告;对话处理全程在设备上进行。训练未使用私人信息或个人身份信息,而是使用根据诈骗报告和情报信息源整理的匿名数据集。

    推荐理由:这套两阶段检测流程提供了一种可迁移的方法,在兼顾智能手机功耗与基于上下文的诈骗分析的同时,将私人对话保留在设备上。

10月8日周四
  1. NVIDIA Blog78

    NVIDIA 与 Microsoft 发布 RTX Spark 与 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI and Surface 活动上宣布为 Windows PC 的智能体时代共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力一起补齐,读者可据此判断本地智能体工作流的落地条件。

  2. Hugging Face Blog62

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M(实验性)。

    推荐理由:Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可用性。

10月7日周三
  1. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 开源轻量多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、740M 参数,在 Apache 2.0 许可下开源,将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间,并给出端侧内存与向量截断的具体数字,便于评估本地多模态检索的可行性。

10月2日周五
  1. NVIDIA Blog60

    NVIDIA DGX Spark 推出 64GB 版本,支持双机集群扩展本地 AI

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的售价、上市时间和双机集群方式,读者可据此判断本地跑大模型的硬件门槛。

9月22日周二
  1. Hugging Face Blog64

    transformers 现已支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 为 transformers 加入 GGUF 模型支持,用户可从 Hub 选取 GGUF 检查点,用 from_pretrained 传入 gguf_file 即可在本地生成,无需额外配置。

    推荐理由:Hugging Face 官方给出在 transformers 里直接加载 GGUF 的路径与实测对比,读者可据此判断本地推理工作流是否值得迁移。

8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布 SL2T 手语转文本模型,率先落地 Pixel 11 的 Gboard 与 Live Transcribe

    Google DeepMind 发布多语种手语转文本模型 SL2T,首次将手语 AI 带入消费级产品,在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写,后续将扩展更多设备与语言。

    推荐理由:原文给出多语种手语到文本模型的能力边界与落地入口,读者可据此判断手语翻译在真实产品中的可用程度。

7月9日周四
  1. Google Research62

    Google 发布 SensorFM:面向可穿戴健康数据的大型传感器基础模型

    Google Research 联合 Google DeepMind 提出 SensorFM,一个直接从无标注可穿戴数据学习的大型传感器基础模型,预训练语料为 500 万同意参与者、超过一万亿分钟的多模态传感器信号,覆盖 100 多个国家、50 个美国州和 20 多款 Fitbit 与 Pixel Watch 设备。

    推荐理由:原文给出预训练数据规模、缩放实验与下游任务对比,读者可据此判断可穿戴基础模型的通用性边界。

7月8日周三
  1. Mistral AI71

    Mistral AI 发布 Robostral Navigate 具身导航模型

    Mistral AI 发布首个具身导航模型 Robostral Navigate,这是一个 8B 模型,仅用单个普通 RGB 相机、无需 LiDAR 或深度传感器,在 R2R-CE validation unseen 上达到 76.6% 成功率,比最佳单相机方案高 9.7 个百分点,比使用深度或多相机的最佳系统高 4.5 个百分点。

    推荐理由:原文给出单目 RGB 相机下的导航成功率与训练方法,读者可据此判断具身导航对传感器依赖的变化。

6月27日周六
  1. Google Research60

    Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型

    Google Research 发布一种新架构,把多 Token 预测(MTP)头挂到已冻结的 Gemini Nano v3 模型上,在不改动主干权重的前提下加速端侧生成。

    推荐理由:Google 把 MTP 头挂到冻结的 Gemini Nano v3 上,给出端侧推理在内存与能耗约束下的具体做法和收益。

6月9日周二
  1. Google DeepMind78

    Google DeepMind 发布 Gemma 4 12B:统一的无编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,介于边缘端 E4B 与 26B MoE 之间,也是其首个支持原生音频输入的中等规模模型。

    推荐理由:Gemma 4 12B 去掉多模态编码器并把视觉音频直接接入 LLM,读者可据此判断本地多模态智能体的硬件门槛。

6月5日周五
  1. Google Research67

    Google 研究用手机摄像头实现被动心脏健康监测

    Google Research 在 Nature 发表 PHRM 研究系统,利用手机前置摄像头在面部解锁后的数秒内拍摄视频,通过深度学习在后台估算心率和静息心率。

    推荐理由:Google 用手机前摄在解锁后被动测心率,并公开迄今最大规模手机视频数据集与预训练模型。

4月3日周五
  1. Google DeepMind85

    Google DeepMind 发布 Gemma 4 开源模型家族

    Google DeepMind 发布 Gemma 4 开源模型家族,包含 E2B、E4B、26B MoE 和 31B Dense 四个尺寸,采用 Apache 2.0 许可。

    推荐理由:Gemma 4 以四个尺寸覆盖端侧到工作站,并给出 Arena 排名与 Apache 2.0 许可,便于判断开源模型的可用边界。

12月3日周三
  1. Mistral AI82

    Mistral 发布 Mistral 3 系列,含 675B 参数 Mistral Large 3 与 3B/8B/14B Ministral 3

    Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 三个稠密小模型和采用稀疏 MoE 架构的 Mistral Large 3,后者为 41B 激活、675B 总参数,全部以 Apache 2.0 许可开源。

    推荐理由:Mistral 3 一次性放出从 3B 到 675B 的 Apache 2.0 权重,读者可据此判断开源模型在端侧与前沿两端的可选空间。

3月17日周一
  1. Mistral AI71

    Mistral 发布 Mistral Small 3.1,支持多模态与 128k 上下文

    Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度 150 tokens 每秒,以 Apache 2.0 许可开源。

    推荐理由:Mistral 官方给出小模型在文本、多模态与长上下文上的对比数据,可据此判断端侧部署的选型空间。

1月30日周四
  1. Mistral AI78

    Mistral AI 发布 24B 模型 Mistral Small 3,Apache 2.0 开源

    Mistral AI 发布 Mistral Small 3,一个面向低延迟优化的 24B 参数模型,以 Apache 2.0 许可开源,同时提供预训练和指令微调两个 checkpoint。

    推荐理由:24B 参数在 Apache 2.0 下对标三倍体量模型,并给出单卡本地部署的量化条件,便于判断小模型落点。

已经到底了