阅读
工具
关于
Paradigm 与北京睿思智联推出面向企业的 AI 部署平台 ModelSphere。其代码以 Apache 2.0 许可证在 GitHub 上免费提供。该平台整合了算力管理、模型部署和运行时优化。 根据两家公司的公告,ModelSphere 支持异构芯片调度和集群运维,并兼容 vLLM、SGLang 等推理引擎。其功能包括缓存感知路由、自动扩缩容和自动性能调优。
AI 根据报道生成 · 12 小时前更新
沿着报道,了解事件的不同侧面。
Paradigm 与北京睿思智联宣布推出 ModelSphere,这是一个免费的开源平台,整合了企业级算力管理、模型部署和运行时优化。该平台采用 Apache 2.0 许可证发布,支持异构芯片调度和集群运维,并兼容 vLLM、SGLang 等推理引擎,提供缓存感知路由、自动扩缩容和自动性能调优功能。公司提供的公告链接至项目代码库:https://github.com/modelsphere/modelsphere。
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。