아티클 목록으로

DeltaMerge-LowRes: 언어 적응과 태스크 적응을 분리한 뒤 가중치 공간에서 결합

약 3분 소요

도입

저자원 언어에 NLP 모델을 적용할 때는 보통 두 가지 적응이 동시에 필요하다. 모델은 새로운 언어를 이해해야 하고, 동시에 요약, 질의응답, 분류 같은 특정 태스크도 수행해야 한다. 하지만 대상 언어의 라벨 데이터가 수백 개에 불과하다면, 언어와 태스크를 한 번에 묶어 파인튜닝하는 방식은 비용이 크고 성능 향상의 원인을 분리해 보기 어렵다.

arXiv 논문 DeltaMerge-LowRes: Composing Language and Task Deltas for Low-Resource Adaptation 는 이 문제를 더 모듈화된 방식으로 풀고자 한다. 핵심은 언어 적응과 태스크 적응을 각각 별도의 가중치 변화량으로 학습한 뒤, 추론 시점에 가중치 공간에서 다시 합성하는 것이다.

핵심 내용

  • 두 축을 분리해 학습: DeltaMerge-LowRes는 비라벨 단일 언어 텍스트에서 언어 delta ΔL을 학습하고, 영어 라벨 데이터에서 태스크 delta ΔT를 학습한다. 목표는 새로운 언어와 태스크 조합마다 고비용의 공동 파인튜닝을 반복하지 않는 것이다.
  • 네 가지 결합 규칙 비교: 논문은 additive, activation-guided, sparsity-aware, 그리고 새롭게 제안한 cross-axis TIES 를 비교한다. cross-axis TIES는 TIES-Merging의 trimming, sign election, merging 절차를 두 태스크 축이 아니라 언어 축과 태스크 축에 맞게 바꾼 방식이다.
  • 저자원 환경 평가: 실험은 네 가지 태스크 계열과 네 가지 아프리카 언어를 대상으로 하며, 총 158개 평가 셀을 포함한다. 각 셀에 대해 10,000 샘플 paired bootstrap을 사용해 비교의 신뢰도를 높였다.
  • 결합 규칙에 따라 장점이 달라짐: cross-axis TIES는 요약 태스크에서 4개 언어 중 3개 언어에서 가장 좋은 결과를 보였고, chrF를 약 4~7점 끌어올렸다. 전체 chrF는 18.59로 task-only의 13.80보다 높았다. 질의응답에서는 F1이 2.32, EM이 2.91 개선됐다. 반면 분류에서는 sparsity-aware 병합이 macro-F1을 거의 유지하면서 ECE를 36% 낮췄다.

의미와 영향

이 연구의 의미는 단순히 새로운 병합 공식을 제시했다는 데 그치지 않는다. 저자원 적응을 재사용 가능한 가중치 변화량의 조합 문제로 다시 정의했다는 점이 중요하다. 언어 능력은 비라벨 텍스트에서, 태스크 능력은 더 풍부한 영어 데이터에서 얻을 수 있다면, 새로운 언어와 태스크 조합을 더 낮은 비용으로 구성할 수 있다.

또한 delta 병합은 단순한 더하기가 아니라는 점도 분명히 보여준다. 어떤 결합 규칙을 선택하느냐에 따라 모델이 무엇을 보존하고, 무엇을 억제하며, 예측 확률을 얼마나 잘 보정하는지가 달라진다. 라벨 검증 데이터가 부족한 저자원 환경에서는 특히 중요한 문제다.

다만 결과는 다국어 인코더, 네 가지 태스크 계열, 네 가지 아프리카 언어라는 실험 범위 안에서 나온 것이다. 더 큰 생성형 모델이나 실제 서비스 환경에서도 같은 경향이 유지될지는 추가 검증이 필요하다. 그럼에도 DeltaMerge-LowRes는 저자원 NLP를 더 모듈화되고 재사용 가능한 방향으로 발전시킬 수 있는 실마리를 제공한다.

출처: arXiv

댓글

로그인 상태 확인 중…

댓글 불러오는 중…

관련 게시물

CCTest · Blog
학습 없이 산술 회로를 LLM 가중치에 컴파일하는 방법
대규모 언어 모델
cctest.ai
대규모 언어 모델

학습 없이 산술 회로를 LLM 가중치에 컴파일하는 방법

기울기 업데이트나 학습 예제, 외부 도구 없이 산술·논리 회로를 사전학습 언어 모델의 가중치에 넣는 방법이 제안됐다. 보고된 결과는 유망하지만, 평가된 과제와 조건의 범위 안에서 해석해야 한다.

더 보기
CCTest · Blog
LLM 가중치 0.05% 미만 삭제만으로도 후학습 가능
대규모 언어 모델
cctest.ai
대규모 언어 모델

LLM 가중치 0.05% 미만 삭제만으로도 후학습 가능

새 연구는 사전학습된 대규모 언어 모델의 가중치 0.05% 미만을 0으로 만드는 것만으로 여러 후학습 설정에서 전체 파인튜닝에 가까운 성능을 낼 수 있다고 보고했습니다. 업데이트 파일 크기를 크게 줄이고 기존 능력의 망각도 완화할 수 있다는 점이 핵심입니다.

더 보기