記事一覧へ戻る
計算資源・チップ

企業の AI 算力投資、コスト把握を上回る速度で拡大

読了目安 3 分

導入

企業の AI 活用は、実験段階からインフラ投資の段階へ移りつつある。しかし VentureBeat Pulse Research が 107 社を対象に行った調査は、重要なズレを示している。企業は AI 向けの計算基盤を急いで購入しているが、そのコストを正確に測り、管理する能力はまだ十分ではない。

同調査はこの状態を「AI compute gap」と表現している。これは単に GPU が足りない、クラウド料金が高いという話ではない。AI を本番運用するための算力を、企業がどこまで可視化し、最適化し、経済性を説明できるかという問題である。

主なポイント

  • 本番展開はまだ限定的。 調査対象のうち、AI を本番環境で大規模に運用している企業は約 21% にとどまる。多くは試験導入、部分展開、初期拡張の段階にある。
  • 投資意欲は成熟度を上回っている。 大規模運用の割合はまだ高くないにもかかわらず、多くの企業が今後 1 年以内に AI インフラのプロバイダーを追加または切り替えることを検討している。一部は四半期内の変更も視野に入れている。
  • 現在の基盤は従来型が中心。 多くの企業は、ハイパースケーラーやモデル提供企業の API を利用して AI を動かしている。一方で、次の投資先としては、現在はまだ広く使われていない専用算力が注目されている。
  • 判断基準は表面的な価格だけではない。 企業はトークン単価よりも、統合のしやすさ、総所有コスト、運用面での適合性を重視している。AI の実コストは単純な価格表だけでは判断しにくいためだ。
  • コスト可視性が不足している。 素材によれば、GPU の利用率は半分以下にとどまるケースがあり、計算コストを厳密に追跡している企業は半数未満である。これは未使用リソースや非効率な推論コストを見逃す原因になり得る。

意味と影響

この調査が示すのは、企業 AI の課題が「モデルを使えるか」から「算力を管理できるか」へ移りつつあるということだ。AI の成果を継続的に出すには、計算資源を単なる購入対象ではなく、測定可能で最適化可能な生産資源として扱う必要がある。

可視性が不十分なままインフラ投資を拡大すれば、短期的にはクラウド事業者、チップ企業、専用インフラ企業にとって追い風になる可能性がある。しかし中長期的には、財務部門や調達部門、技術部門からより厳しい説明責任を求められるだろう。

企業がトークン単価だけでなく総所有コストを重視し始めている点は重要である。実際の AI コストには、学習、微調整、推論、データ転送、統合、監視、運用が含まれる。単価が安く見えても、利用率が低く、移行が複雑であれば総コストは下がらない。

今後の AI インフラ競争では、単に多くの算力を提供するだけでなく、その算力をどれだけ透明にし、効率よく管理できるかが差別化要因になる。企業側にとっては、次の大型投資に進む前に、コスト測定、利用率監視、プロバイダー評価の仕組みを整えることが急務だ。

出典:VentureBeat AI

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
Kaleido:動画拡散 Transformer を加速するアルゴリズム・ハードウェア協調設計
計算資源・チップ
cctest.ai
計算資源・チップ

Kaleido:動画拡散 Transformer を加速するアルゴリズム・ハードウェア協調設計

arXiv に投稿された Kaleido は、動画拡散 Transformer の潜在空間にあるチャネル単位の時空間相関を利用し、計算量と消費エネルギーの削減を狙う研究だ。

続きを読む