vLLM-Omni 现已支持 Fish Audio Drama 3
vLLM-Omni 现已支持 Fish Audio Drama 3,可通过 /v1/audio/speech 提供语音克隆、说话人标签、富有表现力的语音输出,以及 44.1 kHz 音频流式传输。 已合并的优化 PR 报告称,在一台 H200 上可支持 128 路并发流,中位首段音频耗时为 255 ms,每秒生成 222.2 秒音频;两个阶段共用 GPU。数据为 5 次运行的平均值,每次运行使用 1,088 条 Seed-TTS-Eval 英语请求,并采用预编码的语音参考。 试用当前上游版本: vllm serve fishaudio/drama-3 --omni --port 8091 使用指南:https://github.com/vllm-project/vllm-omni/blob/main/recipes/fishaudio/Drama-3.md
