Arm Neoverse CSS N4 공개…에이전트 시대에 CPU가 다시 주목받는 이유

들어가며

AI 에이전트는 모델의 응답을 한 번 생성하는 데서 끝나지 않는다. 필요한 정보를 검색하고, API를 호출하며, 코드를 실행하고, 데이터베이스에 접근한 뒤 결과를 검증하거나 다른 에이전트와 협업한다. 이런 작업은 대규모 병렬 연산에 강한 GPU만으로 처리하기 어렵고, 범용 CPU와 메모리 대역폭, 네트워크, 실행 환경 격리까지 요구한다.

Arm이 Neoverse CSS N4를 발표하고 Arm AGI CPU의 생태계 현황을 함께 공개한 배경에는 이러한 인프라 수요 변화가 있다.

핵심 내용

• CSS N4는 맞춤형 칩 개발용이다. CSS는 CPU 코어, 인터커넥트, 메모리 시스템, 관련 시스템 IP를 미리 통합한 계산 서브시스템이다. 칩 업체는 이를 기반으로 자체 가속기나 네트워크 기능을 추가할 수 있다. 따라서 CSS N4는 서버에 바로 꽂아 쓰는 완제품 CPU가 아니다.
• 고속 연결과 확장성을 강화했다. 하나의 다이에 8~128개 CPU 코어를 구성할 수 있고, 최대 주파수는 3.8GHz다. Neoverse N 시리즈 CSS 최초로 LPDDR6와 PCIe 7.0을 지원하며, PCIe 레인은 최대 128개다. GPU, 고속 네트워크 장비, 기타 AI 가속기 연결을 고려한 설계다.
• 성능 수치는 조건을 전제로 봐야 한다. Arm은 CSS N3 대비 단일 소켓 성능이 최대 2배, 와트당 성능이 최대 25%, 메모리 대역폭이 최대 75% 향상된다고 설명했다. 실제 결과는 칩 구성, 제조 공정, 작업 부하에 따라 달라질 수 있다.
• 두 가지 제품 경로를 제시한다. CSS N4는 자체 인프라 칩을 설계하려는 기업을 위한 것이고, AGI CPU는 서버에 직접 적용하는 완제품 프로세서다. AGI CPU는 Neoverse V3를 기반으로 최대 136코어를 제공하며 DDR5, PCIe 6.0, CXL 3.0을 지원한다.

에이전트 시대에 CPU가 중요한 이유

GPU는 AI 학습과 추론의 대규모 병렬 계산을 담당한다. 하지만 에이전트의 계획 수립, 권한 제어, 데이터베이스 접근, 샌드박스 실행, 데이터 이동, 가속기 조정은 CPU의 역할이 크다. 여러 에이전트가 동시에 실행되면 빠른 기동, 자원 격리, 스케줄링, 장애 처리까지 추가 부담으로 발생한다.

Arm이 CSS N4의 목표 영역으로 에이전트 샌드박스, KV Cache 처리, DPU, 제어면 계산을 제시한 이유도 여기에 있다. 이는 CPU가 GPU를 대체한다는 뜻이 아니다. GPU 주변에서 발생하는 조정과 데이터 이동을 효율화해 전체 시스템의 병목을 줄이려는 접근이다.

시장에 미칠 영향

화산인공지능은 Arm AGI CPU를 기반으로 에이전트 샌드박스 솔루션을 준비하고 있다. Arm은 OpenAI, Meta, Cloudflare, Oracle, SAP, 레노버, Supermicro, Verda 등의 생태계 참여도 소개했다. 다만 일부 협력은 개발 또는 초기 평가 단계이며, 최종 성능과 출시 일정이 공개된 것은 아니다.

Arm과 신자광그룹은 중국에 범용 AI 공동 혁신센터를 설립할 계획도 밝혔다. 연구 분야에는 에이전트 오케스트레이션, CXL 메모리 풀링, 랙 단위 시스템, 엣지 AI가 포함된다. 앞으로 AI 인프라 경쟁은 “어느 GPU가 가장 빠른가”에서 “CPU, 메모리, 네트워크, 가속기를 얼마나 효율적으로 연결하는가”로 확장될 가능성이 크다.

출처: InfoQ 중국어