과학적 발견에서 테스트 시 메모리 진화가 학습을 앞설 수 있을까

배경

과학적 발견을 지원하는 AI 시스템에서는 추론 중에도 현재 과제에 맞춰 적응하는 능력이 중요해지고 있습니다. 일반적인 추론은 모델 가중치를 고정하지만, Test-Time Training(TTT)은 발견 과정이 진행되는 동안 가중치를 온라인으로 업데이트합니다. 이 방식은 현재 과제에서 얻은 정보를 모델에 반영할 수 있지만, 반복적인 최적화 계산이 추가됩니다. 모델 규모가 커질수록 이 비용은 더욱 중요한 문제가 됩니다.

이번 연구는 TTT의 대안으로 Test-Time Memory Evolution(TTME)을 제안합니다.

TTME의 작동 방식

TTME는 기반 모델의 가중치를 직접 수정하지 않습니다. 대신 탐색, 검증, 성찰 과정에서 얻은 유용한 경험을 추출해 외부 메모리에 계속 기록합니다. 이후 단계에서는 이처럼 진화하는 메모리를 참고해 다음 발견 과정의 방향을 정합니다. 모델 파라미터를 학습시키는 대신, 현재 탐색에 필요한 경험의 저장소를 업데이트하는 셈입니다.

연구진은 공정한 비교를 위해 TTME와 TTT를 동일한 과학적 발견 프레임워크에 적용하고, 테스트 시 적응 방법만 교체했습니다. 따라서 결과 차이는 다른 시스템 구성보다는 모델 가중치 업데이트와 외부 메모리 업데이트의 차이에 더 직접적으로 연결됩니다.

보고된 핵심 결과는 다음과 같습니다.

• 평가한 5개 수학 과제 모두에서 TTME가 TTT를 앞섰습니다.
• FLOPs를 82.8~84.6% 줄였습니다.
• 실행 시간은 47.7~58.4% 감소했습니다.
• 온라인 가중치 업데이트 없이 적용할 수 있는 플러그 앤 플레이 방식으로 제시됐습니다.

의미와 한계

이번 결과는 테스트 시 적응이 반드시 모델 파라미터에 기록될 필요는 없다는 점을 보여줍니다. 장시간 진행되는 과학적 탐색에서는 많은 경험이 해당 조사 과정에 특화돼 있습니다. 따라서 이런 경험을 외부 메모리에 정리하고 재사용하면, 더 낮은 계산 비용으로 적응 효과를 얻을 가능성이 있습니다. 대형 모델이나 제한된 컴퓨팅 환경에서는 특히 실용적인 장점이 될 수 있습니다.

다만 결론은 연구에서 평가한 5개 수학 과제와 특정 발견 설정에 한정됩니다. 모든 과학 분야와 모델에서 TTME가 TTT보다 우수하다고 단정할 수는 없습니다. 어떤 경험을 저장할지, 잘못된 추론이 메모리에 누적되는 것을 어떻게 막을지, 메모리 규모가 커져도 검색 효율을 어떻게 유지할지는 남은 과제입니다. 화학, 물리학, 생명과학 등 다른 분야에서의 추가 검증도 필요합니다.

TTME는 과학 AI의 온라인 진화를 모델 가중치 업데이트에만 의존하지 않는 방향을 제시합니다. 구조화되고 재사용 가능한 외부 경험이 과학적 발견 에이전트의 적응을 뒷받침하는 새로운 기반이 될 수 있다는 의미입니다.

출처: Hugging Face Daily Papers