Halley、予測制御でAIデータセンターの光ネットワークを強靭化

AI学習を左右する光ネットワーク

大規模なAIモデルの学習では、数万台規模のアクセラレーターが専用ネットワークで接続され、各ステップの終わりに一斉にデータを交換します。ラック間の通信には光ネットワークが使われますが、その信頼性は単純な部品数だけでは決まりません。同じ筐体、冷却系統、電源を共有するレーザーは、共通要因によって同時に故障する可能性があります。このような相関故障が起きると、予備部品の比率を固定したままでは、資源プールを拡大しても可用性に限界が生じます。

論文で提案されたHalleyは、故障後の復旧ではなく、資源の次の状態を予測して先回りする制御プレーンです。予測が不確かな場合には、現在導入されているポリシーへ戻る設計を採用しています。

4つの構成要素

• LightReserve：レーザープールの規模を決め、必要な範囲をカバーできる保証を与えます。
• FoldFit：光スイッチをスケジューリングし、論文の分析では最適解から11/9以内の結果を目指します。
• ThermaLead：マイクロリングの熱状態を一ステップ先読みして制御します。
• TriageGuard：リスクが高いモジュールを優先して保護し、限られた対策資源を重点配分します。

4つの機能は、資源計画、スイッチ制御、熱管理、故障時の優先順位付けを分担します。予測器の精度を無条件に信頼するのではなく、不確実性が高いときには既存制御へ退避できる点が重要です。さらに、Halleyのフォールバック回路は形式検証されたと説明されています。

シミュレーションで示された効果

評価指標の実効グッドプットは、理想的なスループットのうち学習で維持できた割合です。予備資源を使い切ると学習ウィンドウ全体が失われる条件では、ベースラインの65.2%に対してHalleyは76.5%を達成しました。影響が暗チャネルの帯域低下だけに限定される条件では、67.4%となりました。

論文は、電力効率に相当する見方も示しています。1メガワット当たりの学習性能は最大で1.03～1.17倍となり、同じ学習を完了するためのデータセンター容量は最大3.3～14.7%削減できるとされています。ただし、これらはシミュレーションの結果であり、実運用環境で同じ効果が保証されたわけではありません。

意義と今後の課題

Halleyの意義は、光ネットワークの信頼性を、冗長ハードウェアだけでなく、予測、熱、電力、スケジューリングを含む横断的な制御問題として捉えた点にあります。クラスターが拡大するほど、相関故障や予備資源の管理は、名目上の計算能力を実際の学習性能へ変換するうえで重要になります。

一方、実装には予測信号の品質、制御遅延、異なる光デバイスとの互換性、複合故障への対応を検証する必要があります。それでも、計算資源を増やすだけでなく、ネットワークを予測的に運用するという方向性は、次世代AIデータセンターに有用な設計原則を示しています。

出典：Hugging Face Daily Papers