跳到正文

Tarek Ziade Implements Expert-Streaming for Transformers to Improve MoE Inference on Memory-Constrained Hardware

1篇报道 1个报道来源 首报 2 天前更新

中文版本尚未就绪 · 显示原文

先了解这件事

AI 综述

Tarek Ziade has introduced an expert-streaming implementation for Transformers, proposed in pull request #50717, to facilitate Mixture-of-Experts (MoE) model inference on memory-constrained hardware. When testing the implementation by running Qwen3.8-Flash-Next on a 32 GB Mac, Ziade achieved 13.9 tokens per second on short decode, which he notes is about 6% behind Strata's performance. The technique streams only the routed experts from disk into a bounded cache, utilizing targeted Metal kernels to manage the process. Although this method closes the performance gap, Ziade states the current configuration is still too slow for his personal coding-agent workflow.

AI 根据报道生成 · 1 天前更新

接下来读什么

今日还有哪些重要变化Google DeepMind 推出 Gemini 4 Neon,助力编程、分析与科研

提到的模型

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. 如何通过专家流式传输让 Transformers MoE 推理在 32 GB Mac 上接近 Strata 的表现

    作者为 Transformers 构建了一个专家流式传输路径,并在 32 GB Mac 上运行了 Qwen3.8-Flash-Next,在短解码任务中达到了每秒 13.9 个 token,比 Strata 慢约 6%。该方法仅通过有限缓存从磁盘流式传输路由专家,并使用针对性的 Metal 内核;其通用实现已在 Transformers PR #50717 中提出,作者表示该设置对于他们的编程智能体工作流来说仍然太慢。

每天一封,跟上 AI 的重要变化

模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报

本事件热度走势

可比范围当前
3
可比范围峰值
611月19日 01:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。