바이트댄스, 10조 파라미터급 모델로 Anthropic 추격

바이트댄스가 초대형 AI 모델 경쟁에서 공격적인 행보를 보이고 있다. 보도에 따르면 이 회사는 최대 10조 파라미터 규모의 모델을 훈련 중이며, 이는 미국 최고 연구소들이 개발하는 프런티어 시스템과 맞먹는 수준이다.

핵심 포인트

• 현재 모델은 사전 학습 단계에 있으며, 보통 3~6개월 정도 걸린다.
• 업계 추정치로 Anthropic의 Mythos 5는 약 8조 파라미터, Fable 5는 약 5조 파라미터로 알려져 있다.
• 파라미터 수가 곧바로 성능을 의미하는 것은 아니지만, 모델의 기본 용량과 기억 한계를 좌우한다.
• 바이트댄스의 Seed 팀은 다른 연구소 모델을 증류하는 방식이 아닌, 보다 독립적인 개발 노선을 택하고 있다.
• 데이터센터, 클라우드 사업, 자체 AI 칩까지 인프라 전반에 투자를 확대하고 있다.

의미와 영향

이번 움직임은 중국 빅테크가 AI 경쟁의 후발주자에서 벗어나, 최상위 모델 개발 경쟁에 직접 뛰어들고 있음을 보여준다. 단순히 벤치마크 격차를 줄이는 것이 아니라, 모델 규모와 학습 체계를 바탕으로 장기적인 우위를 노리는 전략이다.

바이트댄스 입장에서는 Doubao 같은 소비자 AI 제품과 기업용 클라우드 사업의 기반을 강화하는 효과도 기대할 수 있다. 동시에 창업자 장이밍이 강조한 것처럼, 독립적인 모델 개발을 통해 장기적으로 세계 수준의 역량을 확보하겠다는 의지가 드러난다.

다만 큰 모델이 자동으로 더 좋은 결과를 보장하지는 않는다. 데이터 품질, 학습 방법, 추론 효율이 함께 받쳐줘야 한다. 결국 10조 파라미터는 출발점일 뿐, 이를 실제 경쟁력으로 바꾸는 실행력이 핵심이다.

Ars Technica AI