칭화대 연구팀, 검증 가능한 AI 추론을 위한 대수 세계 모델 제안

서론

AI가 과학자처럼 추론하려면 데이터를 많이 보는 것만으로는 부족하다. 관찰한 현상에서 일반적인 규칙을 추출하고, 그 규칙이 실제로 성립하는지 검증해야 한다. 칭화대 야오치즈와 위안양이 이끄는 연구팀이 제안한 대수 세계 모델(Algebraic World Model, AWM)은 상호작용 환경에서 이러한 작업 흐름을 구현하려는 시도다.

현상 기록에서 세계 모델링으로

ARC-AGI-3 같은 벤치마크에서는 AI에게 규칙과 목표가 명시적으로 주어지지 않는다. 에이전트가 직접 조작하면서 환경의 구조를 알아내야 한다. 소재에 따르면 일부 최첨단 모델은 관찰 결과를 많은 기호 규칙으로 정리하고 높은 점수를 얻을 수 있다. 하지만 이런 규칙은 관찰 노트에 가깝다. 무엇이 일어났는지는 기록해도, 그 현상을 만들어낸 근본 메커니즘까지 설명하지 못할 수 있다.

이 차이는 과제가 애초에 가능한지 판단할 때 분명해진다. 이론적으로 필요한 최소 행동 수보다 적은 횟수만 허용된 단계에서는 모델이 계속 시도하거나 필요한 행동 수를 잘못 추정할 수 있다. 게임에서는 효율성 문제에 그치지만, 현실의 작업에서는 실행 가능성이나 실패 원인을 잘못 판단하는 일이 더 큰 위험으로 이어질 수 있다.

AWM의 작동 방식

AWM은 환경 속 객체, 관계, 동작을 계산 가능한 대수적 세계로 추상화한다. 소재에서 설명한 과정은 크게 세 단계다.

• 탐색: 환경과 상호작용하며 관찰한 규칙을 실행 가능한 Python 가설로 표현한다.
• 정교화: 새로운 실험으로 가설을 검증하고 수정하거나 결합해 더 일반적인 객체와 규칙으로 만든다.
• 증명: 핵심 규칙을 Lean 4의 형식 명제로 바꾸고, 논리적으로 성립하는지 기계적으로 확인한다.

핵심 변화는 단순히 더 많이 시도하는 것이 아니라 세계 모델을 만든 뒤 검증한다는 점이다. 소재는 Opus 5.5 기반 AWM이 한 가지 해답 없는 단계에서 두 번의 시도만으로 현재 행동 제한에서는 해결할 수 없음을 증명하고, 한 번만 더 허용하면 성공할 수 있다고 판단했다고 전한다. 또한 ARC-AGI-3의 183개 단계에서 모두 성공했으며, 평균 행동 수는 인간 기준의 43%였다고 보고한다. 형식화된 모델이 효율과 설명 가능성을 함께 높일 가능성을 보여주는 결과지만, 해당 평가 조건을 고려해 해석할 필요가 있다.

추상화를 돕는 범주론

AWM은 범주론, 특히 극한과 쌍대극한에서 영감을 얻었다. 쉽게 말하면 하나는 기존 개념과 관계를 결합하는 방식이고, 다른 하나는 서로 다른 관찰에서 공통 구조를 찾아내는 방식이다. 이 과정을 반복하면 흩어진 프로그램 가설이 더 간결하고 일관되며 추론과 증명에 적합한 모델로 정리될 수 있다.

의미와 한계

AWM의 의미는 AI가 뉴턴을 그대로 흉내 내게 하는 데 있지 않다. 관찰, 가설, 실험, 추상화, 증명이라는 과학적 순환을 에이전트 설계에 적용하려는 데 있다. 게임 환경, 계획 수립, 현실 상호작용처럼 무엇이 성공하고 실패하는지 설명해야 하는 작업에서 활용 가능성이 있다.

다만 형식 증명이 보장하는 것은 모델 내부의 논리적 일관성이지, 모델이 환경 전체를 완벽하게 설명한다는 사실이 아니다. 탐색 과정에서 중요한 규칙을 놓치면 결과는 국소적으로는 맞지만 불완전한 진실에 머물 수 있다. 따라서 폭넓은 탐색과 지속적인 모델 수정이 앞으로도 중요하다.

출처: 퀀텀비트