Apertus 1.5, 오픈 텍스트 모델에서 멀티모달 추론으로

들어가며

Apertus 1.5는 완전히 공개된 Apertus 제품군을 텍스트 모델에서 멀티모달 추론 모델로 확장한 릴리스입니다. Swiss AI Initiative 관련 연구팀은 134쪽 분량의 기술 보고서에서 데이터 구성, 학습 방식, 절제 실험을 설명했습니다. 공공 기관이 주도하고, 출처가 문서화된 데이터를 사용하며, 연구자가 검토할 수 있는 형태로 공개된 모델이 소수 상업 제공업체에 대한 의존을 줄일 수 있다는 문제의식도 이번 발표의 중요한 배경입니다.

핵심 내용

• Apertus 1.0에서 이어진 학습. 8B 모델에는 4조 토큰, 70B 모델에는 2조 토큰을 추가해 계속 사전학습했습니다. 그 결과 이미지와 오디오 이해를 추가했고, 컨텍스트 창은 기존의 네 배인 262,144토큰으로 확대됐습니다.
• 구조를 크게 바꾸지 않은 멀티모달화. 새로운 입력 양식은 토크나이저를 통해 모델에 들어가며, 별도의 비전 타워는 사용하지 않습니다. 언어 모델 헤드는 여전히 텍스트만 생성하므로, 이미지를 보거나 오디오를 듣고 텍스트로 답하는 시스템에 가깝습니다.
• 추론은 채팅 템플릿의 플래그로 제어. ‘thinking’은 별도의 모델 체크포인트가 아니라 채팅 템플릿에서 켜는 옵션입니다. 보고서에 따르면 이 설정은 8B 모델의 수학 추론을 최대 20포인트 높였습니다. 다만 해당 수치는 보고된 평가 조건에 따른 결과로 이해해야 합니다.
• 단계적인 후학습. 지도 미세조정, 장문 컨텍스트 미세조정, 검증 가능한 보상을 활용한 강화학습, 선호도 정렬을 순서대로 적용했습니다. 지시 수행, 긴 입력 처리, 검증 가능한 풀이, 대화 품질을 함께 다루는 구성입니다.
• 강점과 한계가 공존. 이미지와 오디오 이해에서 완전 공개 멀티모달 모델들과 경쟁력을 보였으며, 문서 이해, 긴 형식의 입력, 저자원 음성 인식에서 특히 강점이 보고됐습니다. 반면 세밀한 시각 인식과 전사에서는 전문 비전·음성 모델이 여전히 우세합니다.

의미와 영향

Apertus 1.5의 의미는 가중치 공개에 그치지 않고 학습 데이터의 구성, 학습 환경, 절제 실험을 함께 설명한다는 데 있습니다. 이를 통해 연구자는 결과를 재검증하거나 추가 학습을 설계하기 쉬워집니다. 공공 부문, 교육 기관, 연구 조직처럼 모델의 출처와 동작 과정을 확인해야 하는 사용자에게도 이런 투명성은 실질적인 가치가 있습니다.

기술적으로는 언어 모델의 본체를 새로 설계하지 않고 토크나이저와 계속 학습을 통해 이미지·오디오 능력을 추가한 접근이 주목됩니다. 기존 텍스트 능력을 재활용할 수 있고, 장문 컨텍스트와 멀티모달 입력, 추론 학습을 하나의 모델 계열 안에서 비교할 수 있기 때문입니다.

그러나 ‘오픈 멀티모달’이라는 표현이 모든 전문 모델의 대체를 뜻하지는 않습니다. 시각적 위치 파악, 세부 인식, 고정밀 음성 전사, 실시간 서비스가 목표라면 별도의 비교 평가가 필요합니다. 벤치마크 점수만으로는 실제 배포의 신뢰성을 판단할 수 없으며, 데이터 문서화, 라이선스, 편향, 안전성도 함께 검토해야 합니다. Apertus 1.5가 보여주는 더 큰 흐름은 오픈 모델이 단순히 학습 가능성을 증명하는 단계를 넘어, 투명하게 멀티모달 능력을 확장하는 단계로 이동하고 있다는 점입니다.

출처: Hugging Face Daily Papers