Frontis-MA1, 머신러닝 엔지니어링을 AI 자기개선 실험장으로 만들다

도입

재귀적 자기개선(RSI)은 AI가 더 나은 AI를 만드는 과정 자체를 개선한다는 아이디어다. 하지만 이를 실제로 어떻게 실험하고 검증할지는 오랫동안 어려운 문제였다. FrontisAI의 이번 연구는 그 무대를 머신러닝 엔지니어링(MLE)으로 옮긴다. 코드를 작성하고, 실행 결과를 확인하고, 오류를 고치고, 성능 지표를 개선하는 과정은 AI4AI를 평가하기에 비교적 명확한 환경을 제공한다.

논문은 OpenMLE라는 개방형 풀스택 시스템과, 그 위에서 후훈련한 35B 모델 Frontis-MA1을 제안한다. Frontis-MA1은 단순한 코드 생성기가 아니라 머신러닝 솔루션을 반복적으로 진화시키는 메타 진화 에이전트로 설계됐다.

핵심 내용

• OpenMLE는 실행 가능한 AI4AI 연구 스택: OpenMLE-Gym은 실행 피드백이 있는 검증 가능한 과제 환경을 제공하고, OpenMLE-RL은 연산자 학습을 맡으며, OpenMLE-Evo는 장기 탐색을 수행한다.
• 훈련과 추론의 행동 공간을 맞춤: Frontis-MA1은 Draft, Improve, Debug, Crossover 네 가지 프로그램 진화 연산자를 중심으로 학습된다. 추론 시에도 같은 연산자를 조합해 긴 탐색 루프를 만든다.
• 실행 피드백을 활용한 후훈련: 논문은 실행 기반 SFT와 강화학습을 사용했으며, 평가 벤치마크와 중복되는 데이터를 제거했다고 설명한다.
• MLE-Bench Lite에서의 성능 향상: 과제당 12시간, RTX 4090 1장, 12GB VRAM 제한 조건에서 Frontis-MA1은 OpenMLE-Evo와 결합해 Medal Average를 베이스 모델의 39.39%에서 60.61%로 높였다. OpenMLE-Evo-Max를 적용하면 71.21%에 도달했다.
• 별도 벤치마크에서의 전이: held-out NatureBench Lite에서는 동일한 프레임워크에서 훈련된 모델로 교체했을 때 Match-SOTA가 50%에서 70%로 상승했다. 모델을 고정하고 OpenMLE-Evo를 적용하면 20%에서 50%로 올랐다.

의미와 영향

이 연구의 핵심은 RSI를 추상적 논의가 아니라 실행 가능한 개발 루프로 바꿨다는 점이다. 환경은 실제 실행 결과를 제공하고, 모델은 재사용 가능한 프로그램 진화 동작을 배우며, 탐색 시스템은 이를 장기 전략으로 연결한다. 이는 코드 완성이나 단답형 평가보다 실제 머신러닝 엔지니어의 작업 흐름에 더 가깝다.

다만 결과 해석에는 주의가 필요하다. 특히 OpenMLE-Evo-Max의 성능은 모델 자체뿐 아니라 경험 사전정보와 비동기 탐색의 영향도 포함한다. 공개된 모델 가중치와 OpenMLE 전체 스택이 독립적으로 재현된다면, 이 연구는 AI가 AI 개발을 개선하는 방식을 연구하는 중요한 기반이 될 수 있다.

출처: Hugging Face Daily Papers