AI 推理留下的存储账单日益高昂

发生了什么

AI 推理会生成后端数据，大幅增加存储成本，但基础设施规划中常常忽略这些成本。WD 的内部测量发现，一段 8 秒、以 720p 分辨率生成并返回的 AI 视频文件大小为 3.97MB，但留下了超过 500MB 的相关后端数据，是输出文件大小的 130 倍。麦肯锡预测，到 2030 年，推理需求将以 35% 的复合年增长率增长，增速快于训练需求。

接下来读什么

• 今日还有哪些重要变化微软研究院与合作者借助人类指导的 AI 证明 KLS 猜想

这件事到目前为止

WD表示，AI推理会生成后端数据，大幅增加存储成本。WD引用一项内部测量称，一段由AI生成的8秒视频生成了一个3.97MB的720p文件，但同时留下了超过500MB的相关后端数据，约为输出文件大小的130倍。 WD表示，提示词、图像和视频背后生成的大量数据都需要存储，造成基础设施规划经常忽视的成本。这种负担可能达到的规模与推理应用日益普及有关：麦肯锡预测，到2030年，推理需求将以35%的复合年增长率增长，快于训练需求。