計算資源・チップ

雲天励飛は、Prefill、Decode、Decode段階のFFNに最適化した3種類のDeepVerse推論チップ計画を示した。狙いは単体チップの性能競争ではなく、異種混在クラスタによるToken生成コストの低減にある。

AIデータセンター向けの高帯域幅メモリ需要が高まり、スマートフォン向けのRAMやストレージ部品のコストが上昇している。価格に敏感なインド市場では、その影響が早くも出荷減として表れている。

General ComputeはUpper90から4億ドルの融資を受け、推論専用チップを担保にしたとされる。AIインフラ投資の関心が、学習用GPUから低コストな推論基盤へ広がっている。

VentureBeat Pulse Research が 107 社を対象に行った調査によると、企業の AI インフラ投資は加速している一方で、実際のコストや利用率を把握する体制は追いついていない。投資と可視性のずれが「算力ギャップ」として浮かび上がっている。

arXiv に投稿された Kaleido は、動画拡散 Transformer の潜在空間にあるチャネル単位の時空間相関を利用し、計算量と消費エネルギーの削減を狙う研究だ。