핑터우거, T-Head SAIL 확대 공개…중국 AI 칩 경쟁은 소프트웨어로

들어가며

AI 칩의 경쟁력은 이제 최고 연산 성능만으로 결정되지 않는다. 기업 고객이 실제로 확인하는 것은 기존 모델과 코드, 그리고 축적된 개발 경험을 새 플랫폼으로 얼마나 쉽게 옮길 수 있는지다. 알리바바의 반도체 조직 핑터우거는 전우 V900을 발표한 데 이어, 전우 AI 칩을 위한 소프트웨어 스택 T-Head SAIL의 오픈소스 범위를 확대했다. 칩을 공급하는 단계에서 소프트웨어 생태계를 함께 구축하는 단계로 넘어가려는 움직임이다.

무엇이 공개됐나

T-Head SAIL은 PyTorch 같은 상위 AI 프레임워크와 전우 하드웨어 사이를 연결하는 소프트웨어 계층이다. 모델 이전, 컴파일과 실행, 연산자 가속, 통신, 성능 분석, 디버깅을 지원한다. 기존에는 SDK, 드라이버, 분석 도구, 기술 문서 등이 제공됐으며, 이번에는 다음과 같은 프로젝트가 추가로 공개됐다.

• 프레임워크 연동을 위한 PyTorch-for-sail
• 기존 소스코드 이전을 돕는 sailify
• 연산자 개발을 위한 Triton-for-sail
• 연산 가속 프로젝트인 DeepGEMM-for-sail과 FlashAttention-for-sail

핑터우거는 앞으로 TensorFlow와 JAX, 자체 추론 엔진, PCCL과 DeepEP-for-sail 같은 통신 구성요소에 대한 지원과 공개도 추진할 예정이다.

첫 번째 장벽은 이전 비용

추천 시스템, 자율주행, 대규모 모델 추론을 운영하는 기업에게 칩 교체는 단순한 하드웨어 변경이 아니다. 기존 코드는 오랜 기간 수정됐고, 개발팀은 현재 플랫폼에 맞춘 최적화 방법을 축적해왔다. 프레임워크 어댑터와 소스코드 이전 도구, 익숙한 개발 방식을 지원하면 이런 자산을 유지한 채 전우 아키텍처에 필요한 수정만 진행할 수 있다.

그러나 모델이 실행되는 것만으로는 충분하지 않다. 처리량이 낮거나 자원 사용량이 지나치게 높다면 실제 서비스에 적용하기 어렵다. 가속 라이브러리와 구현 코드를 공개하면 고객은 자신의 모델과 업무 부하에 맞춰 병목을 찾고 커널을 수정하며 계속 최적화할 수 있다. 모든 문제를 칩 제조사에 다시 맡기지 않아도 된다는 의미다.

고객이 생태계의 개발자가 된다

소재에 따르면 전우 AI 칩은 20개가 넘는 산업 분야와 650곳 이상의 고객에게 사용되고 있다. 샤오펑은 GPU 플랫폼에서 운영하던 업무 모델을 전우 클라우드 클러스터로 이전하고, 성능 분석 도구로 학습 병목을 점검했다. 앤트그룹은 주요 모델의 추론 적응, 양자화, 병렬 실행 등을 진행하고 있다. 샤오홍슈는 SAIL 오픈소스 코드를 기반으로 모델 이전과 연산자 최적화를 지원하는 에이전트까지 개발했다.

이 사례들은 오픈소스의 의미가 단순한 다운로드 제공에 그치지 않음을 보여준다. 기업은 자체 모델 경험과 업무 요구사항을 내부 도구에 반영할 수 있다. 민감한 알고리즘은 내부에 보관하고 범용적인 개선 사항은 커뮤니티에 기여하는 방식으로, 지식재산을 보호하면서 최적화에 참여할 수 있다.

장기 운영 역량이 관건

실제 사용자가 늘고 피드백이 쌓인 시점에 코드를 더 넓게 공개하는 것은 소프트웨어 성숙도를 높이는 데 도움이 된다. 또한 PyTorch, Triton, vLLM 같은 상위 커뮤니티에 변경 사항을 되돌리면 독립 버전과 주류 프로젝트의 차이를 줄이고 새 모델 지원 속도도 높일 수 있다.

다만 오픈소스 공개가 개발의 끝은 아니다. 구성요소 분리, 버전 테스트, 코드 리뷰, 문서화, 커뮤니티 거버넌스에는 지속적인 투자가 필요하다. T-Head SAIL이 일회성 공개를 넘어 개발자가 모델을 이전하고 성능을 개선하며 결과를 공유하는 협력 네트워크로 자리 잡을 수 있을지가 향후 핵심 평가 기준이다.

출처: 量子位