GPU 커널을 자동 생성할 때는 코드가 실행되는 것만으로 충분하지 않다. 정확성을 확인하면서 더 빠른 구현을 계속 찾아야 한다. 논문이 소개한 CompoundingKernel은 커널 작성을 일회성 생성이 아닌 반복 탐색으로 구성한다. 성공한 구현을 보존해 이후 시도가 그 결과를 발판으로 삼도록 한다.
축적된 기록을 활용하는 탐색
각 문제에서 에이전트가 받는 정보는 PyTorch 정의뿐이며, 참조 커널이나 공식 점수는 제공되지 않는다. 모델 외부의 문제별 아카이브에는 정확성 검사를 통과한 모든 커널과 그 파생 관계가 기록된다. 언어 모델 컨트롤러는 이 기록을 읽고 기존 구현을 부모로 선택하거나 새로운 설계를 정한 뒤, 병렬 자식 에이전트에 서로 다른 탐색 방향을 맡긴다. 정확성 판정은 생성 모델이 스스로 내리는 것이 아니라 외부 검사기가 담당한다.
논문에 따르면 2026년 11월 11일 기준, CompoundingKernel은 NVIDIA B200에서 SOL-ExecBench의 공개 L1, L2, Quantization 보드 모두 1위에 올랐다. 235개 문제 전부에 사이트에서 정확성이 확인된 커널이 있었으며, 공개 보드의 209개 문제에서는 기준 구현보다 4.40배 빠른 성능을 냈다. 저자들은 L1에서 10월 27일부터 선두를 지켰고, 11월 7일에 잠시 1위를 내줬다고 덧붙였다.
에이전트 수보다 평가 처리량
동일한 실행 시간으로 구현된 UCB 방식의 탐색 트리와 비교했을 때, 38개 문제 중 35개에서 CompoundingKernel이 더 많은 정답 시도를 만들었으며 그 수는 비교 방식의 2.4배였다. 시스템은 한때 1,000개가 넘는 에이전트를 동시에 실행했다. 별도로 웜 재시작 문제를 수정해 평가 속도를 3.6배 높였다고 한다. 저자들의 핵심 관찰은 탐색 확장의 한계가 에이전트 수 자체가 아니라 신뢰할 수 있는 측정을 얻는 속도라는 점이다.
이 접근의 의미는 커널 최적화를 누적 가능한 과정으로 만든 데 있다. 계보를 추적하는 아카이브는 유효한 발견을 재사용하게 하고, 외부 검증은 후보를 명확한 기준으로 걸러낸다. 또한 평가 인프라가 에이전트형 코딩 시스템의 핵심 구성 요소임을 보여준다. 다만 보고된 순위와 속도 향상은 특정 벤치마크와 하드웨어, 특정 시점의 결과다. 이를 모든 작업이나 GPU에 일반화할 수는 없다. 다양한 과제에서의 검증과 독립적인 재현이 접근법의 범용성을 판단하는 데 필요하다.
댓글
로그인 상태 확인 중…
댓글 불러오는 중…