인과 공식도 검증해야 한다: 개입 분포 검증을 정식화한 새 연구

도입

인과추론의 전통적인 질문은 보통 “관측 데이터만으로 특정 개입 분포를 식별할 수 있는가”이다. 다시 말해, 단순한 상관관계가 아니라 어떤 변수에 개입했을 때의 분포를 관측 분포의 식으로 표현할 수 있는지를 묻는다. 이번 논문 「Verifying formulas for interventional distributions」는 여기서 한 걸음 더 나아가, 이미 제시된 후보 공식이 실제로 목표 개입 분포를 식별하는지 검증하는 문제를 다룬다.

이 문제는 겉보기에는 기존 식별 문제의 부속처럼 보일 수 있다. 그러나 저자들은 둘이 다르다고 강조한다. 식별은 올바른 공식이 존재하는지를 묻는 문제다. 반면 검증은 이 특정 공식이 올바른지를 묻는 문제다. 따라서 sound and complete 한 식별 해법이 있더라도, 임의로 주어진 후보 공식을 자동으로 검증할 수 있는 것은 아니다.

핵심 내용

• 검증 문제의 정식화: 인과 그래프 모델에서 주어진 관측 공식이 목표 개입 분포를 식별하는지 판단하는 문제를 명확히 정의했다.
• 식별과 검증의 분리: 어떤 식별 공식이 존재하는지 아는 것과, 특정 후보 공식이 맞는지 확인하는 것은 별개의 문제임을 보였다.
• falsifier 제안: 실용적인 접근으로 후보 공식이 실패할 수 있는 증거를 찾는 falsifier를 제시했다.
• 이론적 보장: 정칙 지수족 모델에서 이 falsifier가 거의 확실히 올바른 verifier를 유도한다는 결과를 증명했다.
• gateway test 개발: front-door 공식에 사용할 수 있는 모든 admissible sets를 찾는 gateway test를 제안했다.

왜 중요한가

인과 공식은 의료, 정책 평가, 과학적 모델링, AI 의사결정 시스템 등에서 중요한 판단의 근거가 된다. 하지만 형식적으로 그럴듯해 보이는 공식이 실제 목표 개입 분포를 식별하지 못한다면, 그 결과는 잘못된 결론으로 이어질 수 있다. 기존 연구가 공식을 어떻게 도출할지에 집중했다면, 이 논문은 이미 제시된 공식을 어떻게 점검할지에 초점을 맞춘다.

AI 기반 모델링이 확산될수록 이 문제는 더 중요해진다. 자동화 시스템이 인과 구조나 조정 집합, 기호적 추정식을 추천할 때 사용자는 그것이 수학적으로 타당한지 확인할 수 있어야 한다. 자연스러운 설명이나 보기 좋은 수식만으로는 충분하지 않으며, 검증 가능한 절차가 필요하다.

의미와 영향

이 연구는 주로 방법론적 기여이지만, 실제 도구로 이어질 가능성이 있다. 향후 verifier가 인과추론 소프트웨어에 통합된다면 연구자는 개입 효과 추정식을 사용하기 전에 자동 검사를 받을 수 있다. 공식이 틀렸을 경우 falsifier는 왜 신뢰하기 어려운지 단서를 제공할 수 있다.

gateway test 역시 구체적인 활용 지점이다. front-door 추론에서는 어떤 변수 집합을 사용할 수 있는지 판단하는 일이 까다로울 수 있다. 가능한 집합을 체계적으로 찾는 테스트는 분석의 투명성과 재현성을 높이는 데 도움이 된다.

장기적으로 이 연구는 인과 공식을 생성하는 AI를 넘어, 그 공식을 검증하는 AI 도구를 만드는 기반이 될 수 있다.

출처: arXiv