Arm China, 엣지 AI를 CPU·NPU·VPU·AIOS의 시스템 문제로 재정의

도입

WAIC 2026에서 Arm China는 클라우드 대형 모델과 대규모 GPU 클러스터 대신 카메라, 로봇, 산업용 게이트웨이, 웨어러블, 엣지 노드에 초점을 맞췄다. 이런 장치에서는 모델을 작게 만드는 것만으로 충분하지 않다. 전력, 발열, 메모리, 지연 시간, 비용이 모두 제한된 조건에서 AI가 안정적으로 동작해야 한다.

핵심 포인트

• CPU는 여전히 엣지 AI의 제어 기반이다. 회사는 Cortex-M 계열을 위한 Arm Helium 벡터 확장을 소개했다. 이는 DSP와 경량 머신러닝 작업을 더 효율적으로 처리하기 위한 기술이다. 자체 Star CPU는 STAR-MC2부터 Helium을 지원하며, 현장에서 공개된 “Star 300”은 STAR CPU와 Arm Ethos NPU를 FPGA에 결합한 검증 플랫폼에 가깝다.
• NPU 평가는 더 이상 TOPS만으로 어렵다. 개발 중인 Zhouyi X3-Pro는 소프트웨어, 명령어 세트, 하드웨어 인터페이스를 통일하되 하위 하드웨어는 용도별로 다르게 구성하는 방향을 제시했다. 저전력 제품부터 복잡한 추론용 서브시스템까지를 염두에 두고, 혼합 정밀도, 구성 가능한 메모리 계층, 유연한 Cluster 조합을 강조한다.
• VPU는 사람의 눈이 아니라 모델의 인식도 고려한다. Linglong VPU 라인에서 Arm China는 Emei와 계획 중인 Wudang VPU를 언급하며 콘텐츠 인지형 인코딩을 설명했다. 더 나아가 목표 추적, 행동 인식 같은 하위 AI 작업의 정확도까지 반영하는 작업 인지형 인코딩도 연구 중이다.
• AIOS는 이기종 하드웨어 위의 소프트웨어 층을 겨냥한다. 오픈 AIOS 연합은 모델 엔진, Agent 작업 편성, 메모리 엔진, DataFlow 엔진을 중심으로 단말-클라우드 라우팅, 멀티모달 데이터 흐름, Zero Copy, 이기종 자원 스케줄링을 다루려 한다.

의미와 영향

이번 발표의 의미는 엣지 AI가 “기기에서 모델이 돌아가는가”를 넘어 “제한된 자원에서 장시간 안정적으로 운용되는가”의 단계로 이동하고 있다는 데 있다. CPU는 제어와 실시간 작업, NPU는 주요 추론, VPU는 영상 데이터의 압축과 전달, AIOS는 작업 편성·기억·데이터 흐름을 담당한다. 어느 한 층이라도 비효율적이면 가속기의 이론 성능은 실제 제품 성능으로 이어지기 어렵다.

다만 아직은 로드맵 성격이 강하다. Star 300은 검증 플랫폼이고, Zhouyi X3-Pro의 상세 사양은 공개되지 않았으며, Wudang VPU는 정식 출시 전이다. AIOS 연합도 초기 단계다. 앞으로의 관건은 이 구상이 양산 가능한 칩, 안정적인 SDK, 개발자가 지속적으로 사용할 수 있는 생태계로 전환될 수 있는지다.

출처: InfoQ 中文