vLLM-Omni 现已支持 Fish Audio Drama 3

发生了什么

vLLM-Omni 现已支持 Fish Audio Drama 3，可通过 /v1/audio/speech 提供语音克隆、说话人标签、富有表现力的语音输出，以及 44.1 kHz 音频流式传输。 已合并的优化 PR 报告称，在一台 H200 上可支持 128 路并发流，中位首段音频耗时为 255 ms，每秒生成 222.2 秒音频；两个阶段共用 GPU。数据为 5 次运行的平均值，每次运行使用 1,088 条 Seed-TTS-Eval 英语请求，并采用预编码的语音参考。 试用当前上游版本： vllm serve fishaudio/drama-3 --omni --port 8091 使用指南：https://github.com/vllm-project/vllm-omni/blob/main/recipes/fishaudio/Drama-3.md

这件事到目前为止

vLLM 已在 vLLM-Omni 中新增对 Fish Audio Drama 3 的支持，可通过 /v1/audio/speech 端点使用声音克隆、说话人标签和富有表现力的语音输出，并支持 44.1 kHz 流式音频。该模型总参数量为 35B，每个 token 激活 3B 参数，现在可使用当前上游版本进行部署。 已合并的优化拉取请求报告称，单张 H200 GPU 可处理 128 路并发流，中位首段音频生成时间为 255 ms，音频生成吞吐量为每秒 222.2 秒。上述结果取五次运行的平均值，每次运行使用 1,088 条 Seed-TTS-Eval 英语请求，采用预编码的声音参考，并在同一张 GPU 上运行两个阶段。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议