vLLM-Omni 首日支持 FLUX 3 Image Klein

发生了什么

vLLM-Omni 现已从首日起支持 FLUX 3 Image Klein。 vLLM 团队与 Black Forest Labs 和 NVIDIA 合作，将这款新图像模型引入其服务技术栈。 此次集成包括 FLUX 3 Image Klein 图像生成，以及 BF16、FP8 和 NVFP4 检查点。

这件事到目前为止

Black Forest Labs 已发布 FLUX 3 Image Klein。这是一款拥有 56 亿参数的开放权重图像生成与编辑模型，发布当天即获得 Hugging Face Diffusers 和 vLLM-Omni 支持。据 The Decoder 报道，该模型最多支持 10 张参考图像，并可原生输出 4K 图像；其 INT8 版本可在配备 8 GB 显存的 NVIDIA GPU 上运行，在 RTX 4070 上生成一张图像耗时不到 9 秒。模型权重采用 FLUX Kommunity License，年收入低于 500 万美元的公司可免费将其用于商业用途。 Diffusers 支持文生图、多参考图像到图像生成，以及边界框布局控制。可用的检查点包括一个蒸馏模型（使用 16 步且不进行无分类器引导）和一个基础模型（使用 50 步并启用无分类器引导）。Hugging Face 报告称，在其基准测试中，蒸馏模型在 H100 上用 1.93 秒生成了一张 1024 × 1024 图像，并提供量化加载示例和 LoRA 训练脚本。 vLLM 团队表示，该团队与 Black Forest Labs 和 NVIDIA 合作，加入了对 vLLM-Omni 的支持，其中包括 BF16、FP8 和 NVFP4 检查点。NVIDIA 表示，该模型是在其 GB200 NVL72 硬件上训练的，并可在 RTX GPU 上运行。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议