SiliconFlow介绍企业级大语言模型部署方案，并报告一个客户案例中的推理成本降低

据解决方案总监唐安博介绍，SiliconFlow在一家客户处重新组织了约50台机器，通过Serverless API为大约10个模型提供服务，使一个Qwen模型的每百万token成本从100多元降至不到10元。 在一场面向中央企业和国有企业CIO及高管的峰会上，唐安博介绍了SiliconFlow如何通过模型运维、推理优化和资源调度，将算力转化为token服务。该客户案例展示了这一做法；所报告的成本降幅适用于一个Qwen模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。