같은 광 스펙트럼인데 표현만 바꾸면 AI 판단이 달라지는 이유
들어가며
광 스펙트럼은 나노미터, 마이크로미터, 과학적 표기법 또는 전자볼트 단위의 표로 나타낼 수 있다. 파장이나 광자 에너지를 가로축으로 둔 그래프로 표현하는 것도 가능하다. 물리적으로 같은 정보를 담고 있다면 신뢰할 수 있는 과학용 모델은 어떤 형식을 보더라도 같은 판단을 내려야 한다. 그러나 Hugging Face Daily Papers에 소개된 연구는 현재의 멀티모달 모델이 아직 이 기준을 충족하지 못한다는 점을 보여준다. 같은 모델에 입력 표현만 바꿔도 정확도가 최대 41%포인트 변했다.
연구진은 정답률뿐 아니라 증거 부족 상황도 함께 살폈다. 질문에 답하는 데 필요한 스펙트럼 구간이 삭제됐다면 모델은 불완전한 정보로 결론을 내리기보다 ‘판단 불가’라고 말해야 한다. 과학 분석에서는 근거 없는 확신이 명확한 답변 보류보다 더 위험할 수 있기 때문이다.
핵심 내용
- 동일한 증거가 동일한 결과로 이어지지 않았다. 실리콘 메타표면 MOCLIP 데이터와 금 나노입자의 측정 스펙트럼을 사용했으며, 라벨은 데이터에서 계산했다. 각 스펙트럼은 나노미터, 마이크로미터, 과학적 표기법, 전자볼트 표와 파장·광자 에너지 그래프로 각각 제공됐다.
- 좌표 선택이 성능을 흔들었다. 같은 증거를 파장이 아닌 광자 에너지로 질문했을 때 일부 모델과 표현 조합은 16~50%포인트 향상됐지만, 다른 조합은 최대 25포인트 하락했다. 특히 전자볼트 표와 그래프에서 변화가 컸다.
- 중요한 극값이 사라져도 모델은 답했다. 연구진은 질문 범위 안쪽이나 바깥쪽의 데이터를 삭제해 부분 스펙트럼을 만들었다. 답에 필요한 극값이 제거된 경우에도 별도 적응을 하지 않은 모델은 ‘판단 불가’를 거의 선택하지 않았다. 가운데 구간이 비고 양쪽에 데이터가 남은 상황에서는 남은 값만으로 충분하다고 잘못 판단하기 쉬웠다.
- 미세 조정이 잘못된 지름길을 만들었다. d3-nano에 LoRA를 적용하자 훈련에 사용한 표 형식의 비교 성능은 좋아졌다. 하지만 답변 불가능한 문제에서 얻은 이득의 일부는 입력이 잘렸는지만 보고 무조건 보류하는 단순 규칙에서 비롯됐다.
- 반례를 넣은 학습이 효과적이었다. 잘린 입력이어도 답할 수 있는 사례를 훈련에 포함하자 6개 시드 모두에서 이 지름길이 사라졌다. 보지 못한 구조에서 정답이 있는 구간을 삭제한 경우와 정답이 남아 있는 구간을 삭제한 경우의 보류율 차이는 90~100%포인트였다. 같은 양의 일반 과제 데이터를 추가했을 때는 6개 시드 중 5개에서 지름길이 유지됐다.
의미와 영향
과학용 멀티모달 모델은 평균 정확도만으로 평가해서는 안 된다. 물리적으로 동등한 표현을 같은 정보로 처리하는지, 단위와 좌표가 바뀌어도 결론을 유지하는지, 증거가 부족할 때 추론을 멈출 수 있는지를 별도로 측정해야 한다.
이번 결과는 서로 반대되는 두 실패 양상을 보여준다. 기본 모델은 정보가 부족해도 답하는 경향을 보였다. 반대로 부적절하게 미세 조정된 모델은 입력이 잘렸다는 외형만 보고, 실제로는 답이 남아 있는 사례까지 거부할 수 있었다. 전자는 증거 인식 부족이고 후자는 입력 형식에 대한 과적합이다.
따라서 과학적 의사결정을 위한 학습 데이터에는 답할 수 없는 사례와 함께, 일부가 삭제됐지만 여전히 답할 수 있는 사례도 포함돼야 한다. 단위와 표기법, 그래프 형식도 다양하게 구성해야 모델이 입력의 모양이 아니라 스펙트럼의 내용을 학습할 수 있다. 연구진은 과제, 개별 응답 결과, 분석 코드를 공개해 후속 재현과 평가 기준 개선의 기반을 마련했다.
댓글
로그인 상태 확인 중…
댓글 불러오는 중…