vLLM 新增腾讯混元 Hy4 Flash 模型系列的首日支持
先了解这件事
vLLM 现已增加对腾讯混元 Hy4 Flash 模型系列的首日支持,并提供用于在 NVIDIA GPU 上运行这些模型的 Docker 镜像和部署方案。此次集成工作由 Inferact 完成。 腾讯混元同时发布了 Hy4 Flash 模型系列,并采用腾讯 Hy 许可协议 (Tencent Hy License)。此次发布包含 FP8 和 Base 变体。腾讯列出的模型规格包括:2240 亿总参数,120 亿活跃参数,100 万 token 上下文窗口,以及原生多模态能力;其权重和研究详情已在 Hugging Face、GitHub 和腾讯研究门户上发布。
AI 根据报道生成 · 3 小时前更新
接下来读什么
今日还有哪些重要变化OpenAI 发布 GPT-6.2 Astra 和 Sol事件进展
2 个进展
- 11月18日 13:00 · 1篇报道vLLM 新增腾讯混元 Hy4 Flash 的 Day-0 支持vLLM · X:vLLM 添加了对腾讯混元 Hy4 Flash 的首日支持
- 11月18日 12:39 · 1篇报道腾讯开放 Hy4 Flash 权重腾讯混元 · X:腾讯发布 Hy4 Flash 开源权重,包含 FP8 和 Base 版本
报道时间线
沿着报道,了解事件的不同侧面。
- vLLM · X精选vLLM 添加了对腾讯混元 Hy4 Flash 的首日支持
vLLM 添加了对腾讯混元 Hy4 Flash 的首日支持,并提供了在 NVIDIA GPU 上运行该模型的 Docker 镜像和部署方案。文章将 Hy4 Flash 描述为一个 224B 参数模型(包括 64B Engram,12B 激活参数),具有 1M token 的上下文窗口,以及针对研究、文档、幻灯片和计算机使用的多模态理解能力。集成工作由 Inferact 完成。
- 腾讯混元 · X精选腾讯发布 Hy4 Flash 开源权重,包含 FP8 和 Base 版本
腾讯混元已将 Hy4 Flash 设为开源权重,包括 Hy4 Flash-FP8 和 Hy4 Flash-Base,并采用 Tencent Hy License 协议。该公司列出的模型参数为 224B,激活参数为 12B,支持 1M 上下文,并具备原生多模态能力。模型权重、代码和研究细节已在 Hugging Face、GitHub 和腾讯的研究网站上链接发布。
每天一封,跟上 AI 的重要变化
模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。