SeerGuard: 모바일 GUI 에이전트를 위한 실행 전 안전 프레임워크

모바일 GUI 에이전트는 복잡한 앱 작업을 자동화하는 데 강점을 보이지만, 안전성 측면에서는 훨씬 더 민감합니다. 한 번의 잘못된 탭이나 확인만으로도 데이터 삭제, 잘못된 제출, 금전 관련 오류처럼 되돌리기 어려운 결과가 생길 수 있습니다. SeerGuard는 이런 위험을 실행 후에 잡는 방식이 아니라, 실행 전에 미리 차단하는 방향으로 접근합니다.

핵심 아이디어

SeerGuard는 두 단계의 보호 장치를 둡니다.

• 지시 수준 스크리닝: 사용자의 요청이 악성인지, 권한을 벗어나는지, 명백히 위험한지 먼저 판단합니다.
• 행동 수준 위험 평가: 에이전트가 제안한 각 행동을 현재 GUI 상태에서 분석해, 실행 후 어떤 결과가 나올지 예측하고 위험 여부를 평가합니다.

즉, 단순히 행동 자체만 보는 것이 아니라, 그 행동이 화면 맥락에서 어떤 결과를 만들지까지 고려합니다.

구현 방식

저자들은 이를 위해 SAWM(Safety-Augmented World Model) 을 제안하고, 다중 과제 학습으로 학습시켰습니다. SAWM은 두 가지 능력을 함께 다룹니다.

1. 의미 기반 다음 상태 예측: 행동 이후 GUI가 어떻게 변할지 예측합니다.
2. 안전 위험 평가: 그 변화가 위험한 결과로 이어질 가능성이 있는지 판단합니다.

이 결합 구조 덕분에 모델은 인터페이스 변화와 안전 판단을 함께 학습할 수 있습니다.

결과가 말해주는 것

논문은 SeerGuard가 다양한 모바일 GUI 에이전트에 대해 잘 일반화된다고 보고합니다. Qwen3-VL-8B-Instruct에서는 ω=0.8 기준으로 safety-utility score가 0.191에서 0.596으로 향상되었고, α=0.8 기준으로 risk-cost score는 0.347에서 0.130으로 낮아졌습니다. 또한 SAWM 분석을 통해 지시 스크리닝, 행동 위험 평가, 다음 상태 예측이 각각 유효함을 확인했습니다.

왜 중요한가

이 연구는 에이전트 안전이 더 이상 사후 차단만으로는 충분하지 않다는 점을 보여줍니다. 실제 모바일 앱을 다루는 환경에서는 실행 전에 결과를 예측하고 위험을 선제적으로 막는 것이 핵심입니다. SeerGuard는 월드 모델이 계획과 추론뿐 아니라 안전 제어에도 직접 활용될 수 있음을 보여준 사례라고 볼 수 있습니다.

출처: Hugging Face Daily Papers