Large Discovery Model, 실험 피드백으로 과학적 탐색을 고도화하다

과학적 발견은 그럴듯한 답을 한 번 생성하는 문제와 다르다. 연구자는 가설을 제안하고, 실험으로 검증하고, 결과에서 배우고, 다음에 무엇을 시도할지 다시 결정한다. 후보 공간이 매우 크고 구조화되어 있으며 한 번의 평가에도 많은 비용이 들면 이 반복 과정은 더욱 어려워진다. 더 나은 신경망 학습 프로그램, 특정 특성을 가진 항체, 여러 목표를 동시에 만족하는 분자 설계가 대표적인 사례다.

Large Discovery Model(LDM)은 이런 개방형 탐색을 하나의 구조로 다루기 위해 제안됐다. 논문의 출발점은 생성 모델과 대규모 언어 모델의 점수가 실제 목표를 안정적으로 대신하지 못한다는 문제다. 모델이 어떤 후보에 높은 확률을 부여한다고 해서 그 후보의 실험 성능이 높다는 뜻은 아니다. 익숙한 패턴과 비슷하거나 형식적으로 자연스럽기 때문에 높은 점수를 받을 수도 있다. 모델의 자기평가 역시 인식론적 불확실성을 잘 보정한 지표라고 보기 어렵다. 관측 데이터 분포에서 벗어난 새로운 후보에서는 이러한 한계가 더 커진다.

LDM은 다음 네 가지 요소를 연결한다.

• 생성 모델은 새로운 후보를 제안하고 기존 설계를 반복적으로 개선한다.
• 보상 대리 모델은 베이지안 비모수 방식에 기반해 후보의 성능을 예측하고 불확실성도 추정한다.
• 불확실성을 반영한 가치 평가는 예상 점수뿐 아니라 예측의 불확실성까지 고려해 유망한 영역의 활용과 미지 영역의 탐색 사이에서 균형을 잡는다.
• 지속적으로 갱신되는 발견 메모리는 새로운 실험 관측이 들어올 때마다 대리 모델과 함께 업데이트된다.

이 구조에서 생성 모델은 최종 판단자가 아니라 탐색 루프 안의 제안 엔진이 된다. 시스템은 처음부터 전체 목적 함수를 정확하게 알 필요가 없다. 대신 예측과 외부 실험 결과를 비교하면서 다음 탐색의 초점을 점차 조정한다. 대리 모델은 추상적인 후보 설계와 실제로 측정된 과학적 성과 사이를 연결하며, 제한된 실험 예산을 더 유망한 방향에 배분하도록 돕는다.

논문은 신경망 학습, 항체 설계, 분자 최적화라는 세 가지 시나리오에서 LDM을 평가했다. 제공된 초록에 따르면 LLM만을 활용한 리플렉션이나 전통적인 통계적 탐색과 비교해 검증 BPB 감소 폭은 2.4배였고, 결합 에너지는 상대적으로 18.2% 낮아졌으며, 분자 다목적 성능은 60%를 넘는 상대적 향상을 보였다. 프로그램, 단백질, 분자처럼 서로 다른 설계 양식을 함께 다뤘다는 점은 특정 분야의 요령보다 생성·평가·학습이라는 순환 구조의 일반성을 확인하려는 시도로 볼 수 있다.

다만 이 결과를 실험을 대체하는 완성형 자율 과학자의 등장으로 해석해서는 안 된다. 성능은 실험 관측의 품질, 대리 모델의 불확실성 보정, 후보 표현 방식과 목표 정의의 적절성에 좌우된다. 앞으로 중요한 과제는 실제 실험 피드백을 여러 차례 받으면서 후보를 잘 만드는 방법뿐 아니라 가장 많은 정보를 제공할 다음 실험을 고르는 방법까지 학습하는 것이다. LDM이 던지는 핵심 메시지는 분명하다. 과학 AI에서 표현력 있는 생성은 출발점이며, 불확실한 상황에서 “다음에 무엇을 시험할 것인가”를 결정하는 능력이 개방형 발견의 중심이다.

출처: Hugging Face Daily Papers