DeltaMerge-LowRes: 언어 적응과 태스크 적응을 분리한 뒤 가중치 공간에서 결합

도입

저자원 언어에 NLP 모델을 적용할 때는 보통 두 가지 적응이 동시에 필요하다. 모델은 새로운 언어를 이해해야 하고, 동시에 요약, 질의응답, 분류 같은 특정 태스크도 수행해야 한다. 하지만 대상 언어의 라벨 데이터가 수백 개에 불과하다면, 언어와 태스크를 한 번에 묶어 파인튜닝하는 방식은 비용이 크고 성능 향상의 원인을 분리해 보기 어렵다.

arXiv 논문 DeltaMerge-LowRes: Composing Language and Task Deltas for Low-Resource Adaptation 는 이 문제를 더 모듈화된 방식으로 풀고자 한다. 핵심은 언어 적응과 태스크 적응을 각각 별도의 가중치 변화량으로 학습한 뒤, 추론 시점에 가중치 공간에서 다시 합성하는 것이다.

핵심 내용

• 두 축을 분리해 학습: DeltaMerge-LowRes는 비라벨 단일 언어 텍스트에서 언어 delta ΔL을 학습하고, 영어 라벨 데이터에서 태스크 delta ΔT를 학습한다. 목표는 새로운 언어와 태스크 조합마다 고비용의 공동 파인튜닝을 반복하지 않는 것이다.
• 네 가지 결합 규칙 비교: 논문은 additive, activation-guided, sparsity-aware, 그리고 새롭게 제안한 cross-axis TIES 를 비교한다. cross-axis TIES는 TIES-Merging의 trimming, sign election, merging 절차를 두 태스크 축이 아니라 언어 축과 태스크 축에 맞게 바꾼 방식이다.
• 저자원 환경 평가: 실험은 네 가지 태스크 계열과 네 가지 아프리카 언어를 대상으로 하며, 총 158개 평가 셀을 포함한다. 각 셀에 대해 10,000 샘플 paired bootstrap을 사용해 비교의 신뢰도를 높였다.
• 결합 규칙에 따라 장점이 달라짐: cross-axis TIES는 요약 태스크에서 4개 언어 중 3개 언어에서 가장 좋은 결과를 보였고, chrF를 약 4~7점 끌어올렸다. 전체 chrF는 18.59로 task-only의 13.80보다 높았다. 질의응답에서는 F1이 2.32, EM이 2.91 개선됐다. 반면 분류에서는 sparsity-aware 병합이 macro-F1을 거의 유지하면서 ECE를 36% 낮췄다.

의미와 영향

이 연구의 의미는 단순히 새로운 병합 공식을 제시했다는 데 그치지 않는다. 저자원 적응을 재사용 가능한 가중치 변화량의 조합 문제로 다시 정의했다는 점이 중요하다. 언어 능력은 비라벨 텍스트에서, 태스크 능력은 더 풍부한 영어 데이터에서 얻을 수 있다면, 새로운 언어와 태스크 조합을 더 낮은 비용으로 구성할 수 있다.

또한 delta 병합은 단순한 더하기가 아니라는 점도 분명히 보여준다. 어떤 결합 규칙을 선택하느냐에 따라 모델이 무엇을 보존하고, 무엇을 억제하며, 예측 확률을 얼마나 잘 보정하는지가 달라진다. 라벨 검증 데이터가 부족한 저자원 환경에서는 특히 중요한 문제다.

다만 결과는 다국어 인코더, 네 가지 태스크 계열, 네 가지 아프리카 언어라는 실험 범위 안에서 나온 것이다. 더 큰 생성형 모델이나 실제 서비스 환경에서도 같은 경향이 유지될지는 추가 검증이 필요하다. 그럼에도 DeltaMerge-LowRes는 저자원 NLP를 더 모듈화되고 재사용 가능한 방향으로 발전시킬 수 있는 실마리를 제공한다.

출처: arXiv