阅读
工具
关于
vLLM 表示,在 AgentX 工作负载和 200 P90 TPS 条件下,其 Wide-EP 和 EPLB 配置的解码性能可达到 DeepInfer 的 6% 以内。vLLM 还表示,在相同的工作负载和性能条件下,按 DeepSeek 的非高峰时段定价,每张 GPU 每小时可产生 39 美元收入。
AI 根据报道生成 · 2 小时前更新
沿着报道,了解事件的不同侧面。
vLLM 表示,Wide-EP 和 EPLB 使其解码性能与 DeepInfer 相差不到 6%;在 AgentX 工作负载上达到 200 P90 TPS 时,按 DeepSeek 的非高峰定价,每 GPU 每小时可产生 39 美元收入。 该帖子链接至更多详情:https://t.co/l0ZVo31hft。
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报
还没有足够的连续观测数据,暂不绘制趋势。