텐센트 혼위안, 770B 파라미터와 1M 컨텍스트의 Hy4 preview 공개

텐센트 혼위안이 Hy4 preview라는 오픈 대규모 언어 모델을 공개했다. 공개된 설명에 따르면 총 파라미터는 770B, 추론 과정에서 활성화되는 파라미터는 4.9B이며 컨텍스트 길이는 1M이다. 혼위안은 코딩, 사무 업무, 과학 등 생산성 작업에서 Hy4 preview가 오픈 모델 상위권에 해당한다고 주장한다.

핵심 내용

• 전체 규모와 활성 규모의 분리: 모델 전체에는 770B 파라미터가 있지만, 한 번의 추론에서 활성화되는 규모는 4.9B로 제시됐다. 이는 모델의 잠재적 용량을 크게 유지하면서 요청마다 실제로 사용하는 계산량을 제한하려는 설계로 해석할 수 있다. 다만 이 숫자만으로 실제 비용이나 처리 속도를 판단할 수는 없다.
• 1M 컨텍스트 지원: 매우 긴 코드, 문서, 지속적인 작업 기록을 처리할 수 있는 기반을 제공한다. 그러나 긴 컨텍스트의 실효성은 서빙 인프라, 정보 선택 방식, 긴 입력에서 중요한 내용을 유지하고 찾는 모델의 능력에 따라 달라진다.
• 다양한 공개·서비스 채널: Hy4 preview는 Hugging Face, GitHub, ModelScope, Gitcode에 공개됐다. Tencent Cloud TokenHub와 OpenRouter에도 등록되어 개발자는 직접 테스트, 자체 배포 연구, 호스팅 API 연동 중 적합한 방식을 선택할 수 있다.
• Agent 중심의 확장: 이번 발표는 파라미터와 컨텍스트 수치에만 초점을 맞추지 않는다. 게임 엔진과 MCP 관련 도구를 활용하는 방향을 함께 제시하며, 모델이 텍스트를 생성하는 데서 그치지 않고 실제 소프트웨어 환경에서 도구를 호출하고 작업을 진행하도록 하는 구상을 강조한다.

의미와 한계

Hy4 preview의 의미는 장문 컨텍스트, 오픈 배포, Agent 활용이라는 세 가지 흐름을 하나의 모델 출시 안에 결합했다는 데 있다. 게임 엔진이나 MCP 호환 도구 체계와 연결되면, 모델을 별도의 대화창이 아니라 이미 데이터와 명령 구조를 갖춘 애플리케이션 내부에 배치하기 쉬워질 수 있다.

다만 현재 확인 가능한 자료는 발표 요약에 한정된다. Hy4 preview가 오픈 모델 상위권이라는 주장은 이 요약만으로 독립적으로 검증하기 어렵다. 평가 방식, 라이선스, 필요한 하드웨어, 배포 방식별 비용, 로컬 실행과 API 사용의 차이도 추가로 확인해야 한다. 따라서 도입을 검토할 때는 파라미터 수나 컨텍스트 길이만 보지 말고 실제 업무 데이터와 워크플로에서 성능과 운영성을 시험해야 한다.

이번 공개가 보여주는 큰 흐름은 대규모 모델의 경쟁 기준이 단순한 파라미터 수를 넘어섰다는 점이다. 오픈 생태계, 긴 문맥에서의 안정성, 도구 사용 능력, Agent 형태로의 구현력이 모델의 실용성을 결정하는 주요 요소가 되고 있다.

출처: OSChina