GigaWorld-Policy-0.5: 월드 액션 모델을 더 빠른 로봇 제어로 이끄는 접근

도입

World Action Models(WAMs)는 로봇 정책 학습에서 중요한 접근으로 떠오르고 있다. 이 모델은 로봇의 행동만 학습하는 것이 아니라, 행동과 그 이후의 시각 관측을 함께 모델링한다. 미래 장면의 변화가 촘촘한 감독 신호가 되기 때문에, 모델은 물리 세계와 더 잘 맞는 행동 표현을 배울 수 있다.

하지만 기존 WAM 설계에는 실용적인 병목이 있다. 많은 방식이 추론 단계에서 미래 비디오를 명시적으로 생성하는데, 이는 계산 비용이 크고 실시간 폐루프 로봇 제어에는 부담이 된다. GigaWorld-Policy-0.5는 이 문제를 정면으로 다룬다. 미래 시각 정보는 학습에 사용하되, 실제 제어 시에는 행동 출력에 집중하는 방식이다.

핵심 내용

• 행동 중심 구성: GigaWorld-Policy-0.5는 GigaWorld-Policy의 방향을 이어받아, 미래 시각 동역학을 학습 단계의 신호로 활용한다. 그러나 추론 단계에서는 action-only decoding을 사용해 미래 영상을 생성하지 않고 행동만 산출한다.

• AC-WM과 WAM의 혼합 사전학습: 사전학습 과정에서는 Action-Conditioned World Modeling(AC-WM)과 WAM 학습 전략을 결합한다. 이를 통해 시각 변화와 로봇 행동 사이의 결합을 강화하고, 다운스트림 정책 학습으로 전이 가능한 행동 표현을 얻는 것을 목표로 한다.

• Mixture-of-Transformers 구조: GigaWorld-Policy-0.5는 시각 동역학 모델링과 행동 생성을 서로 다른 Transformer 전문가로 분리한다. 행동만 필요한 추론 시에는 활성화되는 계산량을 줄일 수 있다. 제공된 요약에 따르면, 로컬 RTX 4090 환경에서 85 ms의 추론 지연 시간을 달성했다.

• AutoResearch 기반 설정 탐색: 연구진은 에이전트 기반 AutoResearch 파이프라인을 사용해 학습 설정을 체계적으로 탐색했다. 이는 하이퍼파라미터 조정에 필요한 수작업과 시간을 줄이고, 더 나은 실험 구성을 효율적으로 찾기 위한 장치다.

의미와 영향

이 연구의 핵심은 월드 모델링 자체를 포기하는 것이 아니다. 오히려 미래 시각 동역학이 제공하는 학습상의 이점을 유지하면서, 실제 추론 단계의 부담을 줄이려는 시도다. 로봇은 센서 입력을 받아 빠르게 판단하고 행동해야 하므로, 매번 미래 영상을 생성하는 방식은 실시간 제어에 적합하지 않을 수 있다.

GigaWorld-Policy-0.5는 세계에 대한 예측 능력을 훈련 과정에서 행동 표현 안에 녹여 넣고, 배포 단계에서는 더 가벼운 행동 생성 경로를 사용하는 설계를 제안한다. 이 방향이 다양한 작업과 하드웨어 환경에서 검증된다면, WAM 기반 로봇 정책을 실제 시스템에 적용하는 데 도움이 될 수 있다.

또한 AutoResearch의 도입은 로봇 학습 실험의 자동화라는 흐름과도 맞닿아 있다. 데이터 구성, 학습 방식, 모델 구조가 복잡하게 얽힌 상황에서 설정 탐색을 자동화하는 것은 연구 효율을 높이는 데 의미가 있다.

다만 제공된 자료만으로는 세부 벤치마크, 비교 대상, 실제 로봇 실험의 범위를 모두 판단하기 어렵다. 그럼에도 GigaWorld-Policy-0.5는 WAM의 장점과 실시간 제어의 요구 사이에서 균형점을 찾으려는 의미 있는 시도로 볼 수 있다.

출처: Hugging Face Daily Papers