Google DeepMind 发布 DiffusionGemma:文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次性并行生成整块文本,在专用 GPU 上文本生成最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。
推荐理由:Google DeepMind 开源文本扩散模型,给出速度与硬件门槛的具体数字,可据此判断本地交互式推理的可行性。
