NVIDIAのAI優位性はGPUの先へ、システム設計が新たな焦点に

導入

生成AIブームの初期から、NVIDIAの強みは最先端GPUを供給できることだと説明されてきた。AI向け計算需要が急増する中で、GPUの供給力とソフトウェア基盤は同社に大きな優位性をもたらした。一方、AmazonやGoogleなどのハイパースケーラーは独自チップの開発を進めており、GPU市場でNVIDIAだけが選択肢ではなくなりつつある。

しかし、競争をGPU単体で見ると重要な変化を見落とす可能性がある。AIシステムがギガワット級へ拡大すると、GPUを増やすだけでは十分ではない。計算装置へ必要なデータを適切なタイミングで届け、メモリ、ストレージ、ネットワークを滞りなく連携させることが、同じくらい難しい課題になっている。

主なポイント

• 課題はデータのオーケストレーションへ移行。 ストレージや通信が計算に追いつかなければ、高価なGPUが待機してしまう。システムが大きくなるほど、データの流れを管理する難度は高まる。
• NVIDIAは単体GPUではなくシステムを提供。 Vera RubinアーキテクチャはRubin GPUに加え、Vera CPU、推論、ストレージ、ネットワーク向けの構成要素を組み合わせる。目的は演算サイクルを増やすことだけでなく、GPU周辺の処理を効率化することだ。
• Vera CPUはデータ調整を担う。 NVIDIAは、Vera CPUによって一部のストレージ処理を高速化し、フラッシュの性能をより活用できると説明している。記事では同社幹部の説明として、特定の処理で最大およそ3倍の改善が示されているが、これはベンダー側の説明であり、実際の効果はワークロードに左右される。
• 競合は別のアプローチを採用。 OpenAIのJalapeñoチップは、より大きな接続領域内で処理を完結させ、データ移動と通信遅延を抑える設計を重視している。方法は異なるが、効率的なデータの流れを実現するという狙いは共通している。

意味と影響

AIチップの評価基準は広がっている。従来はGPUの速度、メモリ容量、電力効率が中心だったが、今後はデータセンターの各部品をどれだけ高い稼働率で動かせるかが重要になる。CPU、ストレージ制御、ネットワーク、ソフトウェア、ラック単位の統合設計は、1ワット当たりの有効な出力やサービス全体のコストに影響する。

NVIDIAにとって、この変化はGPU競争を補う機会になる。クラウド事業者が独自アクセラレーターを採用しても、大規模システムでのデータ転送、通信、スケジューリングの問題は残る。NVIDIAがハードウェアとソフトウェアを一体化できれば、システム層で優位を維持できる可能性がある。

ただし、その優位性が確定したわけではない。チップメーカーやハイパースケーラーはオーケストレーション層で競争でき、データ移動そのものを減らす設計も特定の用途では有効だろう。競争の焦点は「最速のGPUは誰か」から、「AIシステム全体の待ち時間を減らし、効率よく動かせるのは誰か」へ移っている。

出典：TechCrunch AI