보안 AI 에이전트 평가는 성공률보다 비용을 함께 봐야 한다

도입

AI 보안 에이전트는 취약점 발견, 익스플로잇 개발, 침투 테스트, CTF 풀이, SOC 경보 조사 등 다양한 보안 업무에 적용될 가능성을 보여주고 있다. 하지만 많은 평가는 여전히 넉넉한 추론 예산을 제공한 뒤 “과제를 풀었는가”라는 최고 성공률에 초점을 맞춘다.

논문 「Beyond Success Rate: Cost-Aware Evaluation of Offensive and Defensive Security Agents」는 이러한 방식이 실제 운영 환경을 충분히 반영하지 못한다고 지적한다. 보안 현장에서는 모델의 추론 단계, 도구 호출, 텔레메트리 질의, 외부 정보 보강 요청 하나하나가 모두 비용으로 이어지기 때문이다.

핵심 요점

• 성공률에서 비용 효율로 평가 관점 전환: 기존 보안 에이전트 평가는 취약점 발견, 익스플로잇 개발, 침투 테스트, CTF 완료 같은 공격 능력의 최고치를 강조해 왔다. 논문은 이 지표가 유용하긴 하지만, 실제로 도입 가능한 시스템인지 판단하기에는 부족하다고 본다.
• 공격과 방어 과제를 함께 평가: 연구는 공격형 Cybench 과제와 방어형 Splunk BOTS v1 조사 과제를 사용한다. CTF를 푸는 능력과 SOC 환경에서 로그와 텔레메트리를 탐색하며 사건을 조사하는 능력은 서로 다른 역량을 요구한다.
• 고정 비용 수준에서 모델 비교: 저자들은 단순히 가장 좋은 결과만 보고하지 않고, 일정한 비용 수준에서 모델 성능을 비교한다. 또한 성능을 추론 비용과 도구 비용으로 나누어, 모델이 더 많이 생각해서 성과를 낸 것인지, 도구를 효율적으로 사용한 것인지 살핀다.
• 레드팀과 블루팀 과제의 확장 법칙이 다름: 공격형 CTF 성능은 테스트 시점 계산량을 늘릴수록 개선되는 경향을 보인다. 논문은 확장된 오픈 웨이트 모델이 비용 경쟁력을 유지하면서 최전선의 독점 시스템에 근접할 수 있다고 설명한다.
• SOC 조사는 단순한 추론 예산 문제가 아님: 방어형 조사는 같은 방식으로 확장되지 않는다. 성공은 원시 추론 예산보다 절제된 도구 사용, 텔레메트리 탐색, 필요한 경우에만 정보를 보강하는 선택 능력에 더 크게 좌우된다.

의미와 영향

이 연구는 보안 AI 에이전트 평가가 리더보드식 점수에 머물러서는 안 된다는 점을 분명히 한다. 기업 보안팀이 필요로 하는 것은 언젠가 정답에 도달하는 에이전트가 아니라, 제한된 예산 안에서 불필요한 질의와 도구 호출을 줄이면서 안정적으로 조사를 돕는 시스템이다.

또한 오픈 웨이트 모델을 평가하는 방식에도 현실적인 기준을 제공한다. 일부 공격형 과제에서는 테스트 시점 계산을 확장하면 비용 경쟁력을 유지하면서 폐쇄형 프런티어 시스템에 가까운 성과를 낼 수 있다. 반면 방어형 에이전트의 개선 방향은 더 큰 모델만이 아니라, 도구 사용 정책, 로그 탐색 전략, 비용 통제, SOC에 맞춘 평가 환경에 있다.

결국 이 논문의 메시지는 명확하다. 보안 에이전트 벤치마크는 “성공했는가”뿐 아니라 “어떤 비용으로, 어떤 운영 조건에서 유용한가”를 함께 측정해야 한다.

출처: Hugging Face Daily Papers