返回文章列表
算力与芯片

企业 AI 算力投入正在跑赢成本可见性

阅读约 3 分钟

导语

企业对 AI 的热情正在从模型试用转向基础设施投入。但 VentureBeat Pulse Research 基于 107 家企业的调查指出,一个更现实的问题正在浮现:组织购买算力的速度,已经超过了它们理解、衡量和管理算力成本的能力。

这篇研究将这种错位称为“AI compute gap”,即算力缺口。它不是单纯的 GPU 不够用,也不是云账单变贵这么简单,而是企业在扩大 AI 投入时,对底层经济性缺乏足够可见性。

核心要点

  • 生产化程度仍有限。 调查中只有约 21% 的企业已经在生产环境中大规模运行 AI。这意味着,多数组织仍处在试点、局部部署或早期扩展阶段。
  • 基础设施采购却在加速。 尽管成熟度有限,企业对下一阶段 AI 基础设施的投入意愿很强,且不少组织计划在一年内增加或更换供应商,其中一部分甚至可能在一个季度内行动。
  • 当前依赖仍较传统。 多数企业的 AI 运行在熟悉的基础之上,包括超大规模云服务商和模型提供商 API。但下一笔预算往往指向更专用的算力形态,而这些方案当前实际使用率并不高。
  • 决策不只看 token 单价。 企业在选择供应商时更重视集成难度、总拥有成本和可运营性,而不是单一的标价。这说明买方已经意识到,AI 成本并不能只用表面价格解释。
  • 成本监控能力不足。 素材显示,许多 GPU 的利用率只有一半或更低,且少于半数企业会严格追踪实际计算成本。这意味着企业可能已经在为闲置、低效调度或不可见的推理成本买单。

意义与影响

这项调查反映出企业 AI 落地进入了一个新阶段:瓶颈不再只是“有没有模型”或“有没有预算”,而是能否把算力变成可度量、可优化、可治理的生产资源。

如果企业继续在缺乏成本视图的情况下扩张基础设施,短期内可能推动更多云、芯片和专用算力平台的采购;但中长期看,财务部门和技术团队都将面临更强的审查压力。AI 项目能否持续,不仅取决于效果,也取决于单位成本是否清晰、GPU 是否被充分利用、供应商切换是否真的降低总成本。

这也解释了为什么“总拥有成本”开始取代“单次调用价格”成为采购关键词。对企业来说,真正重要的不是某个模型或某张 GPU 看起来便宜,而是在真实业务负载下,训练、微调、推理、数据传输、集成和运维加总后的成本是否可控。

因此,未来一段时间,围绕 AI 基础设施的竞争可能会从“谁提供更多算力”转向“谁能让算力更透明、更高效、更容易管理”。对企业买方而言,在继续加码之前,先补上成本度量、利用率监控和供应商评估体系,或许比追逐下一轮算力采购更紧迫。

来源:VentureBeat AI

评论

正在确认登录状态……

正在加载评论……

相关文章