返回文章列表
AI 智能体

AI自主写算子,22.5小时超越DeepSeek FlashMLA

阅读约 3 分钟

一段持续22.5小时的公开实验,把AI Agent从“辅助写代码”推向了更底层的性能工程。

据量子位报道,面壁智能的算子生成系统ForgeKernel在英伟达B200上,从算子的数学定义和目标硬件约束出发,没有参考DeepSeek原始实现,也没有人类工程师直接编写代码,尝试优化DeepSeek FlashMLA的Prefill算子。最终版本执行耗时472微秒,对照实现为518微秒,性能提升9.8%。

这场实验做了什么

FlashMLA属于注意力计算中的核心算子,性能会直接影响模型推理效率。实验过程并非一次生成结果,而是由Agent持续编写、编译、验证和测试:

  • 第一版先通过正确性检查,但耗时1834微秒;
  • 不到4小时,耗时降至593微秒;
  • 随后系统通过调整核心结构,先超过自身上一版本,再超过FlashMLA;
  • 全程完成42轮迭代,保留32个版本,消耗一张B200和22个GPU小时。

报道还提到,ForgeKernel在后期发现Q数据加载与KV数据搬运争抢访存资源,并主动调整请求节奏,进一步降低耗时。这类基于实测数据的局部判断,过去通常依赖熟悉硬件细节的性能工程师。

不只是“让模型写代码”

ForgeKernel的重点并非单纯调用大模型生成CUDA代码,而是把优化任务组织成一个可持续迭代的工程系统。其方法包括:将架构设计拆成多个里程碑,把验证过的硬件经验沉淀进知识库,并将当前最佳版本作为下一轮优化的竞争对象。

这也回应了只给目标的优化方式存在的短板:模型往往擅长微调,却可能在早期选定并不理想的整体架构。ForgeKernel试图通过阶段性目标和自我对比,增加探索不同路线的机会。

素材援引的论文实验称,在B200上的10个算子中,目标驱动方法有8个超过人类维护的开源库;在29项对比中,ForgeKernel有24项达到或超过专家实现。上述数据仍属于项目方及报道披露的结果,具体测试配置和可复现性需要更多公开材料验证。

对国产芯片意味着什么

ForgeKernel此前还在昇腾950DT、950PR和A3三类硬件榜单中排名第一。它在英伟达CUDA与昇腾工具链上采用同一套优化组织方式,但通过不同性能分析工具学习具体硬件特征。若这一模式能够稳定迁移,芯片厂商就可能缩短新硬件发布后的算子适配周期。

更大的变化在于成本结构:当代码生成和测试能够由Agent自动完成,为特定模型或芯片定制算子不再必然意味着高昂的人力投入。对于算子库尚不完善的国产芯片,自动化优化的潜在收益或许更明显。

不过,这并不代表专家会立即退出流程。人类仍需定义目标、搭建测试环境、审核正确性与性能结果,并决定哪些优化值得投入。真正变化的,是专家工作的重心:从逐行手写底层代码,转向设计能够让AI持续试错和验证的系统。

如果ForgeKernel开源后的表现能够被社区复现,算子工程可能成为递归自进化较早实现闭环的领域之一。AI不只是使用工具,而是在工具链中参与构建更高效的工具。

来源:量子位

评论

正在确认登录状态……

正在加载评论……

相关文章