마이크로소프트 Maia 300, 2027년 AI 추론 주력 칩으로

발표의 의미

마이크로소프트가 3세대 자체 개발 AI 가속기인 Maia 300을 발표했다. 회사는 2027년부터 생산 워크로드에 투입하고, Maia 제품군을 자사 제품과 서비스의 주요 AI 추론 시스템으로 확대할 계획이다. 이는 단순한 세대교체 이상의 의미를 갖는다. Azure와 Copilot, GitHub Copilot, 자체 AI 모델을 운영하는 데 필요한 추론 인프라를 Nvidia와 AMD의 범용 GPU에만 의존하지 않겠다는 방향을 분명히 했기 때문이다.

핵심 내용

• 추론 중심의 설계. Maia 300은 긴 컨텍스트를 처리하는 추론, 응답 지연이 중요한 대화형 서비스, 여러 단계를 이어서 수행하는 에이전트 작업을 대상으로 한다. 학습 과정의 최고 성능보다, 서비스가 지속적으로 요청을 처리할 때의 효율과 안정성에 초점을 맞춘 설계다.
• 효율성 지표를 제시했다. 마이크로소프트 클라우드 부문 책임자 Scott Guthrie는 Maia 300이 선도적인 GPU 기반 시스템보다 메가와트당 토큰 처리량을 40% 높일 것으로 예상한다고 밝혔다. 또 96개 가속기 구성에서는 랙 단위 토큰 처리량이 Maia 200의 최대 7배에 이를 수 있다고 설명했다. 다만 이 수치는 회사가 제시한 예상 또는 내부 측정치인 만큼, 실제 생산 환경에서 독립적인 검증이 필요하다.
• 칩렛 아키텍처를 사용한다. Maia 300은 TSMC의 N2P 공정을 기반으로 하며, 연산부와 메모리 컨트롤러, I/O 기능을 분리한다. 마이크로소프트는 이를 통해 연산에 더 많은 실리콘 면적을 배정하고, 각 기능에 맞는 제조 기술을 적용할 수 있다고 설명한다.
• 모델과 하드웨어를 함께 최적화한다. 마이크로소프트 AI 부문 책임자 Mustafa Suleyman은 실리콘부터 모델까지 전체 스택을 직접 다뤄야 한다고 강조했다. 자체 모델을 Maia 위에서 구동하는 것은 하드웨어와 소프트웨어를 공동 설계해 플랫폼 통제력을 높이려는 전략의 일부다.

산업에 미칠 영향

Maia 200은 올해 1월 발표됐지만 이미 Microsoft Copilot, GitHub Copilot, Microsoft Foundry, 자체 AI 모델의 생산 워크로드에 사용되고 있다. 짧은 기간 안에 Maia 300을 공개한 것은 맞춤형 칩이 일회성 비용 절감 수단이 아니라, 마이크로소프트의 장기 인프라 전략으로 자리 잡고 있음을 보여준다.

AI 추론은 모델을 학습시키는 것과 다른 부담을 요구한다. 서비스가 출시된 뒤에는 예측하기 어려운 대량의 요청을 처리해야 하고, 컨텍스트가 길어지거나 응답 속도 요구가 높아지며, 에이전트 작업도 복잡해진다. Maia 300이 마이크로소프트의 기대에 부합한다면 Azure는 일부 추론 작업에서 범용 GPU 필요량을 줄이고, 서비스 비용과 용량을 더 세밀하게 관리할 수 있다.

그렇다고 Nvidia와 AMD가 곧바로 공급망에서 사라지는 것은 아니다. 마이크로소프트는 다양한 모델과 소프트웨어 스택, 작업 유형을 지원할 유연성도 확보해야 한다. 2027년 이후에는 Maia 300의 생산 규모, 실제 가용성, 개발자 경험을 함께 평가해야 한다. 궁극적인 관건은 마이크로소프트가 칩과 클라우드, 모델을 결합해 외부 GPU를 단순히 구매하는 방식보다 효율적인 전체 시스템을 만들어낼 수 있느냐에 있다.

출처: The Verge AI