国产AI算力竞争,正在从“有多少张卡”延伸到“能稳定交付多少有效Token”。清昴智能近日联合华为昇腾生态及多家产业伙伴,公布昇腾950DT万卡级Token工厂联合运营计划:2027年推进万卡级运营,并计划在未来五年建设覆盖多地域、多芯片的十万卡级网络。它试图解决的,不只是资源规模问题,而是如何把分散的算力组织成可验收的推理服务。
计划如何运作
这套方案采用联合运营,而非由单一企业独立包揽建设。按公布的分工,昇腾生态提供芯片、超节点产品及技术协同;数据中心提供机房、电力和算力;模型与流量伙伴带来实际需求并参与服务验收;清昴负责软件优化、集群调度、统一计量和运营。合作方将围绕Token产出及服务质量协议明确责任与收益。首批合作方包括北京智源人工智能研究院、上海数据港、中国电信湖北分公司等。
清昴称,截至目前已与20余家算力中心开展运营,调度近2万张国产卡,适配优化15款以上国产芯片,并推进近10套昇腾910C超节点落地。公司还披露,多套昇腾950算力已落地武汉、芜湖等地机房。这些是其既有运营基础的自述,不等同于万卡计划已经建成。
难点在“有效产出”
卡上架不代表算力被充分利用。国产芯片的软件栈各异,新模型需要兼容和调优;真实请求的长度、并发和缓存需求也不断变化。即使模型能运行,客户最终关心的仍是吞吐、首Token时延、稳定性和成本。因此,规模化运营需要把模型适配、资源调度和服务验收连成一套流程。
清昴将其软件能力概括为推理引擎与算力管理平台,并称通过动态调度、四级KV Cache、算子优化和分布式并行提升效率。公司披露,部分场景缓存命中率最高达到99%,算力利用率曾从30%—40%提升至约80%;特定MoE算子性能提升84倍,集群每分钟Token吞吐由4000万增至1.4亿,P99首Token时延从180秒降至40秒。上述数据来自公司披露,适用范围和测试条件会影响其可比性,不能直接视为所有集群的普遍结果。
产业意义与待验证之处
联合运营提供了一条不同于单纯购买设备、建设机房的扩张路径:通过整合多方资源,软件和运营能力也能影响算力服务的规模。不过,万卡与十万卡目标仍是路线图,真正的考验在持续负载下能否兑现SLA、控制每百万有效Token成本,并适配不同芯片与模型。国产算力要成为可靠供给,最终需要用可重复的交付结果,而不是卡数或峰值指标来证明价值。
来源:量子位
评论
正在确认登录状态……
正在加载评论……