CCTest · Blog
云天励飞押注分阶段推理芯片:从单卡性能转向Token成本
算力与芯片
cctest.ai
云天励飞押注分阶段推理芯片:从单卡性能转向Token成本
云天励飞披露了面向未来两年多的AI推理芯片路线图,计划以三款DeepVerse芯片分别优化Prefill、Decode和Decode FFN负载。其核心思路不是单纯堆峰值算力,而是用异构集群降低大规模Token生成成本。
阅读全文云天励飞披露了面向未来两年多的AI推理芯片路线图,计划以三款DeepVerse芯片分别优化Prefill、Decode和Decode FFN负载。其核心思路不是单纯堆峰值算力,而是用异构集群降低大规模Token生成成本。
阅读全文General Compute获得Upper90提供的4亿美元贷款,并以面向推理的AI芯片作为抵押。这笔交易显示,AI基础设施资本正从训练GPU热潮,转向更便宜、更高效的推理算力。
阅读全文VentureBeat Pulse Research 对 107 家企业的调查显示,企业正在加速购买 AI 基础设施,但对真实成本、利用率和单位经济性的掌握明显滞后。所谓“算力缺口”,正成为 AI 从试点走向规模化时的新风险。
阅读全文arXiv 新论文提出 Kaleido,通过挖掘视频扩散 Transformer 潜空间中的通道级时空相关性,在算法与硬件两端同时降低生成视频的计算成本。
阅读全文