記事一覧へ戻る

CompoundingKernel、GPUカーネル最適化を探索の積み重ねに

読了目安 3 分

GPUカーネルの自動生成では、コードを動かすだけでなく、正しさを確かめながらより速い実装を探し続ける必要がある。論文で紹介されたCompoundingKernelは、カーネル作成を一度きりの生成ではなく、成功例を次の探索に生かす反復プロセスとして設計している。

正解の記録を探索の足場に

エージェントに渡されるのは各問題のPyTorch定義で、参照カーネルや公式スコアは与えられない。モデルの外にある問題別アーカイブには、正しいと判定されたカーネルと、その派生関係が保存される。言語モデルの制御器は記録を参照し、既存案を親として選ぶか新しい設計を選択。並列に動く子エージェントには、それぞれ異なる探索方針を割り当てる。正しさの判定も生成モデルの自己申告ではなく、外部の検査機構が行う。

論文によると、2026年11月11日時点で、CompoundingKernelはNVIDIA B200上のSOL-ExecBench公開L1、L2、Quantizationの3部門で首位だった。235問すべてにサイト上で正しいと確認されたカーネルがあり、公開ボード対象の209問では基準実装より4.40倍高速だったという。また、L1では10月27日から首位を維持し、11月7日に一時的に順位を譲ったと報告している。

大量投入より評価の回転率

同じ実行時間で、コード化されたUCB型の探索木と比較したところ、38問中35問でCompoundingKernelの正しい試行数が上回り、その数は比較手法の2.4倍に達した。システムは一時、千を超えるエージェントを同時に稼働させた。さらに、ウォームリスタートに関する修正によって評価速度が3.6倍になったという。著者らが強調するのは、探索の拡張を制約するのはエージェント数ではなく、信頼できる測定をどれだけ速く得られるかという点だ。

この仕組みの意義は、最適化の知見を保存し、次の試行に引き継ぐ点にある。系譜付きアーカイブは有望な設計の再利用を可能にし、外部検査は候補の選別を支える。また、評価基盤そのものがエージェント型コーディングの性能を左右することも示している。ただし、報告された順位や速度向上は特定のベンチマーク、GPU、時点に基づくもので、あらゆる処理やハードウェアで同じ効果が出るとは限らない。幅広い課題での検証や独立した再現が、手法の汎用性を見極める材料となる。

出典:Hugging Face Daily Papers

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
AIコーディングで成果物は増加、次のボトルネックはコードレビュー
コーディングAI
cctest.ai
コーディングAI

AIコーディングで成果物は増加、次のボトルネックはコードレビュー

718社を対象としたワーキングペーパーでは、AIコーディングエージェントの導入後、コード行数やコミット、Pull Requestが増加したと報告されています。一方、作業がそのまま完了するわけではなく、コードレビューが新たな課題として浮かびます。

続きを読む
CCTest · Blog
Anthropic、AIエージェント向けにソースコード管理を再設計
コーディングAI
cctest.ai
コーディングAI

Anthropic、AIエージェント向けにソースコード管理を再設計

Anthropic は、リポジトリ操作の多くをサーバー側へ移すソースコード管理システム Scion を公開しました。コンテンツアドレス方式、階層キャッシュ、仮想チェックアウトによって、エージェントと CI が生む大量の反復処理に対応します。

続きを読む