返回文章列表
算力与芯片

Halley:用预测控制提升光互连 AI 集群的训练稳定性

阅读约 3 分钟

导语

大模型训练正在把数据中心网络推向新的极限。数万颗加速器需要在每个训练步骤结束时集中交换数据,机架之间通常依赖光互连来满足带宽需求。问题在于,光网络的关键资源并不是彼此完全独立:共享机箱、冷却系统或供电环境的激光器,可能在同一时间出现相关故障。对于采用固定备件比例的资源池而言,集群越大并不意味着可用性能够无限提升。

论文提出的 Halley,试图把光网络运维从“故障发生后再处理”转向“预测下一状态并提前行动”。它不是简单增加冗余,而是在网络控制平面中引入预测器,同时保留现有部署策略作为不确定情况下的安全回退路径。

四个控制组件

  • LightReserve:针对共享激光器资源池进行容量规划,并给出覆盖范围保证,降低相关失效导致备件同时耗尽的风险。
  • FoldFit:负责光交换机调度,在论文给出的分析中,其调度结果距离最优解不超过 11/9。
  • ThermaLead:面向微环器件的热状态,使用提前一步的控制方式维持工作状态。
  • TriageGuard:优先保护风险最高的模块,把有限的恢复和保护资源用于最可能影响系统运行的部分。

这四个组件分别对应资源配置、设备调度、热管理和故障处置。Halley 的设计重点不只是预测能力,还包括在预测失效或置信度不足时回到既有策略,从而避免控制器本身成为新的故障来源。论文还对回退电路进行了形式化验证。

模拟结果与边界

在论文给出的组合模拟中,有效吞吐率——即相对于理想吞吐量实际保留下来的比例——在“备件耗尽后整个训练窗口丢失”的场景下,从 65.2% 提升至 76.5%。如果故障只造成暗通道带宽损失,而不影响整个窗口,吞吐率达到 67.4%。按每兆瓦计算,系统可实现最高约 1.03 至 1.17 倍的训练效率;在完成同等训练任务时,数据中心所需容量最多可减少 3.3% 至 14.7%。这些结果来自模拟,而非真实生产集群的长期运行数据,因此更适合作为架构收益和控制策略可行性的评估。

意义与影响

Halley 的价值在于,它把光互连可靠性视为一个跨层控制问题,而不是单纯的硬件冗余问题。随着 AI 集群继续扩大,相关故障、热约束和备件池管理可能成为影响有效算力的重要因素。预测控制能够在不确定时保守回退,在有把握时提前调度,从而在可靠性与资源利用率之间取得平衡。

不过,论文结果仍主要建立在模拟和形式化分析之上。实际部署还需要验证预测信号的质量、控制延迟、不同厂商光器件的兼容性,以及复杂故障组合下的行为。若这些环节得到解决,类似方法有望成为下一代 AI 数据中心网络控制平面的重要组成部分。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章