PrismML, 퀄컴 스마트 글라스에 1비트 소형 모델 선보여

스마트 글라스가 일상적인 컴퓨터로 자리 잡으려면 카메라와 디스플레이, 음성 제어만으로는 부족하다. 제한된 배터리와 발열, 연산 자원 안에서 주변 환경을 이해할 수 있는 AI 모델이 필요하다. PrismML은 모델을 작게 만드는 방식으로 이 문제에 접근한다. 칼텍 연구자들이 설립하고 UC 버클리의 Ion Stoica가 자문하는 이 회사는 기기에서 실행되는 오픈 웨이트 AI를 장기 목표로 내세우고 있다.

무엇이 공개됐나

퀄컴 스냅드래곤 서밋에서 퀄컴은 스냅드래곤 AR1 Gen 1 플랫폼 기반 AI 스마트 글라스에 사용할 수 있는 PrismML의 1비트 Bonsai 대규모 언어 모델을 시연했다. 글라스용 버전은 약 20억 개 파라미터 규모이며, 시각 정보와 언어 처리를 함께 다루도록 조정됐다. 사용자가 눈앞의 사물이나 장면에 대해 질문하면 기기에서 답을 생성하는 방식이 기본적인 사용 시나리오다.

PrismML의 핵심 주장은 모델 압축이다. 회사 설명에 따르면 더 큰 모델을 약 4분의 1 규모로 줄이면서도 표준 벤치마크에서 성능을 거의 유지할 수 있다. 이번 모델은 이러한 접근을 메모리, 전력, 발열, 지연시간의 제약이 큰 웨어러블 기기에 적용한 사례다.

핵심 내용

• 기기 내 처리: 모든 이미지를 원격 서버로 보내지 않고 관련 요청을 글라스에서 처리하는 것을 목표로 한다.
• 1비트 설계: 저장 공간과 추론 부담을 줄여 배터리 기반 기기에 적합하게 만들려는 접근이다.
• 비전·언어 기능: 약 20억 개 파라미터로 카메라 입력과 자연어 응답을 연결한다.
• 오픈 웨이트 지향: 폐쇄형 AI 연구소와 대규모 클라우드 연산에 대한 의존을 낮추고 기기 자체의 컴퓨팅 자원을 활용하려 한다.
• 제품은 아직 없음: PrismML 모델을 탑재한 구체적인 스마트 글라스는 현재 발표되지 않았다.

의미와 한계

시각·언어 추론을 기기에서 수행할 수 있다면 스마트 글라스는 네트워크 상태에 덜 의존하고, 일부 상황에서는 응답 지연도 줄일 수 있다. 주변 환경을 촬영하는 서비스에서는 클라우드 중심 방식과 다른 개인정보 처리 선택지도 제공할 수 있다. 다만 기기에서 처리된다는 사실만으로 개인정보 보호가 보장되는 것은 아니다. 실제 제품의 이미지와 로그 저장 방식, 권한 관리, 모델 업데이트 정책이 중요하다.

이번 발표는 엣지 AI의 경쟁 기준이 단순한 파라미터 규모에서 벗어나고 있음을 보여준다. 웨어러블에서는 압축 효율, 칩 호환성, 전력 소비, 응답 속도가 실제 사용성을 결정한다. 퀄컴이 스마트 글라스용 하드웨어 플랫폼을 제공하고, PrismML은 작은 모델로 그 연산 자원을 더 효율적으로 활용하려는 구도다.

그러나 실제 환경에서의 정확도, 복잡한 장면과 소음에 대한 대응, 배터리 사용량은 아직 확인되지 않았다. 탑재 제품도 발표되지 않은 만큼 이번 사례는 상용 스마트 글라스 출시라기보다 기기용 AI 플랫폼의 가능성을 보여준 시연으로 보는 편이 정확하다.

출처: TechCrunch AI