CyberFactory, 실제 취약점을 검증 가능한 보안 에이전트 학습 과제로 전환

들어가며

사이버보안 대형언어모델은 취약점 설명을 읽고 그럴듯한 답을 만드는 것만으로 충분하지 않습니다. 소스코드를 검사하고, 도구를 사용하며, 대상 환경에서 실행하고, 실패의 원인을 해석한 뒤 전략을 수정해야 합니다. CyberFactory는 이런 작업 흐름을 학습 데이터에 담기 위한 오픈소스 방법을 제시합니다. 공개 취약점 자료를 실행 가능한 과제로 바꾸고, 검증을 통과한 에이전트 궤적을 생성해 OpenAegis를 학습합니다.

공개 취약점에서 실행 과제로

CyberFactory가 다루는 작업은 PoC 생성, 취약점 패치 생성, 사이버보안 질의응답입니다. 데이터는 ARVO, OSS-Fuzz, 실제 환경에서 수집한 공개 CVE 등을 활용합니다. 각 사례에 대해 취약한 프로그램과 패치된 프로그램 상태를 재구성하고, 궤적을 만들기 전에 정답을 직접 노출할 수 있는 검증 정보를 제거합니다.

PoC의 성공 여부는 설명의 품질이 아니라 프로그램 실행으로 판정합니다. 후보 PoC는 패치 전 빌드에서 목표 취약점을 유발해야 하며, 패치 후 빌드에서는 유발해서는 안 됩니다. 이 차분 오라클은 “제안, 실행, 증거 확인, 수정”의 반복 루프를 기계적으로 평가하게 합니다. 패치 데이터는 실제 취약점 수정 기록에 기반하고, CyberQA는 실행 결과, 코드 구조 또는 신뢰할 수 있는 보고서의 사실을 근거로 구성됩니다.

교사 모델의 기술을 파라미터로

궤적 합성 단계에서 교사 모델에는 재사용 가능한 취약점 분석 기술이 제공됩니다. 여기에는 대상과 빌드 조건 확인, 도메인 지식에 기반한 탐색, 증거 검증, 검증 실패 이후 전략 수정이 포함됩니다. 다만 이 기술은 특정 인스턴스의 답을 알려주지 않으며, 교사 모델은 실제 환경과 상호작용해 문제를 풀어야 합니다.

OpenAegis는 추론 시 이 기술 프롬프트를 별도로 받지 않습니다. 검증된 궤적을 이용한 지도 미세조정을 통해 탐색, 검증, 수정의 절차를 모델 파라미터에 내재화하는 것이 목표입니다. 보고된 행동 분석에서 도메인 우선 탐색을 사용하는 궤적의 비율은 OpenAegis가 85.2%, Qwen3.5가 0.6%였습니다. 학습 후에는 탐색과 검증 호출도 늘어났습니다.

성능과 해석상의 주의점

동일한 스캐폴드와 1시간의 CyberGym 예산에서 OpenAegis의 Pass@1은 58.1%였습니다. 비교 대상인 Qwen3.5는 29.6%, GLM 5.2는 43.3%, Kimi K2.7은 51.7%를 기록했습니다.

다만 명시적 기술 프롬프트 실험은 계산량이 동일하지 않습니다. GLM 5.2는 기술을 사용할 때 15분짜리 시도를 5회 수행했고, 사용하지 않을 때는 60분짜리 시도 1회를 수행했습니다. 따라서 이 결과는 궤적 생성 처리량과 행동 방식의 변화를 보여주는 지표이지, 동일한 계산 예산에서의 성능 우위를 직접 입증하는 비교는 아닙니다.

의미와 한계

CyberFactory의 핵심은 공개 취약점 정보를 실행 가능한 인스턴스로 만들고, 실행 기반 검증으로 학습 신호를 정제한 뒤, 도구 사용과 검증 절차를 모델에 전달하는 일관된 설계입니다. 이는 기술적으로 그럴듯한 답을 보상하는 방식보다 실제 행동에 가까운 학습을 가능하게 합니다.

그러나 환경 재구성의 정확도, 검증기 설계, 테스트 범위에 결과가 크게 좌우됩니다. CyberGym 성능 역시 특정 벤치마크 설정의 결과이므로 현실의 모든 보안 능력을 의미하지는 않습니다. 그럼에도 CyberFactory는 재현 가능한 사이버보안 에이전트 연구를 위한 구체적인 오픈소스 청사진을 제시합니다.

출처: Hugging Face Daily Papers