엔비디아 PAIR, 유휴 PC를 개인용 AI 컴퓨팅 풀로 연결
개요
가정에는 게임용 데스크톱, 업무용 노트북, Mac처럼 성능은 충분하지만 하루 중 상당 시간을 유휴 상태로 보내는 컴퓨터가 있을 수 있다. 엔비디아의 Personal AI Router, 줄여서 PAIR는 이런 장치를 하나의 개인용 로컬 AI 추론 풀처럼 활용하는 것을 목표로 한다.
다만 PAIR는 공유기나 라우터 장비가 아니다. 엔비디아가 개발한 오픈소스 소프트웨어로, 현재 베타 버전으로 제공된다. 같은 네트워크에 연결된 호환 컴퓨터를 찾고 서로 연결한 뒤, 로컬 AI 작업에 필요한 계산을 여러 장치에 배분하는 방식이다.
핵심 내용
- 로컬 AI 도구와 연동. Ollama와 LM Studio 같은 도구와 함께 사용하도록 설계됐다. 모든 추론 요청을 클라우드로 보내지 않고 사용자의 컴퓨터에서 처리하는 선택지를 넓힌다.
- 유휴 자원 활용. 컴퓨터를 사용하지 않을 때 계산 자원을 활용하며, 사용자가 데스크톱으로 게임을 시작하거나 장치가 네트워크에서 사라지면 작업 배분을 조정하도록 설계됐다.
- 여러 종류의 하드웨어 지원. GeForce RTX 20 시리즈 이상, RTX Pro GPU, DGX Spark 시스템과 Apple M4 이상 칩을 지원한다. 실제 성능은 메모리, 모델 크기, 소프트웨어 지원, 네트워크 상태에 따라 달라진다.
- 병렬 처리를 겨냥. 복잡한 요청을 여러 하위 작업으로 나누는 AI 에이전트 워크플로를 여러 장치에서 병렬 처리하는 것이 주요 사용 사례다.
- 보안 페어링 제공. 장치는 6자리 코드로 페어링하고, 이후 상호 인증 TLS(mTLS)를 통해 암호화된 통신 채널을 사용한다.
의미와 한계
PAIR의 핵심 가치는 새로운 컴퓨팅 성능을 만들어내는 데 있지 않다. 이미 집에 있는 여러 장치의 유휴 성능을 하나의 작업 환경으로 묶는 과정을 단순화하는 데 있다. 엔비디아는 여러 고성능 컴퓨터가 있는 가정을 사례로 제시했지만, 실제로는 노트북 한 대와 게이밍 PC 한 대 정도의 구성을 더 현실적인 사용자 환경으로 보고 있다.
그러나 PC 여러 대를 연결한다고 해서 대형 GPU 한 장처럼 성능이 단순히 합산되는 것은 아니다. GPU 구조와 메모리, 드라이버, 운영체제가 서로 다르면 작업 분배가 복잡해진다. 네트워크 통신과 작업 분할에도 비용이 발생하므로, 병렬화하기 어려운 작업에서는 효과가 제한될 수 있다. 따라서 PAIR를 어떤 대형 모델이든 여러 가정용 PC에서 매끄럽게 실행하게 해주는 도구로 이해해서는 안 된다.
전력 소비, 발열, 소음, 장치 관리 부담도 고려해야 한다. 보안 역시 페어링을 올바르게 설정하고 가정용 네트워크를 안전하게 운영하는 데 달려 있다.
엔비디아는 PAIR와 함께 Perplexity Portable Computer, Hermes Agent, OpenClaw가 Windows에서 엔비디아 GPU를 활용한 로컬 설치를 더 쉽게 제공할 예정이라고 밝혔다. 로컬 AI의 관심사는 이제 단순히 모델을 실행할 수 있는지를 넘어, 개인 장치를 어떻게 묶어 지속적으로 사용할 수 있는 환경으로 만들지에 맞춰지고 있다.
출처: The Verge AI
댓글
로그인 상태 확인 중…
댓글 불러오는 중…