31.7MB로 음성과 음악 생성하는 언더독의 ‘Woof’

AI 업계는 더 크고 강력한 모델을 만드는 데 집중해 왔다. 동시에 스마트폰과 노트북 같은 엣지 기기에서 직접 실행할 수 있도록 모델을 작게 만드는 흐름도 커지고 있다. 미국 스타트업 언더독은 이 방향을 보여주기 위해 음성 생성 모델 ‘Woof’를 활용한 브라우저 게임을 공개했다.

도입: 32MB보다 작은 음성 모델

Woof의 용량은 약 31.7MB이며, 파라미터 수는 약 3,100만 개다. 데모 게임은 타자기, CRT 모니터, 책상용 램프, 음악 튜너가 놓인 복고풍 방을 배경으로 한다. 사용자가 키보드로 문장을 입력하면 타자기가 이를 읽어 주고, 음악 튜너를 돌리면 서로 다른 종류의 음악을 생성한다. 게임 안의 음성과 사운드는 Woof가 생성한다.

언더독은 Woof가 브라우저에서 작동하며 대부분의 기기에서 인터넷 연결 없이 실행될 수 있다고 설명한다. 모델도 다운로드할 수 있도록 공개했다. 이 방식이 실제로 다양한 하드웨어에서 안정적으로 작동한다면, 개발자는 모든 음성 요청을 클라우드 서버로 보낼 필요 없이 기본적인 음성 기능을 구현할 수 있다.

핵심 내용

• 작은 설치 용량: 약 31.7MB로, 대규모 서버 인프라를 전제로 하는 음성 모델과 다른 접근을 취한다.
• 음성 외 기능: 데모에는 음성 합성과 음악 생성이 모두 포함됐지만, 음질과 지연 시간, 지원 언어에 관한 세부 평가는 공개되지 않았다.
• 로컬 실행 중심: 네트워크 의존도를 낮추고 사용자가 음성 데이터를 더 직접적으로 관리할 수 있다.
• 이어지는 엣지 전략: 언더독은 몇 주 전에도 엣지 기기에서 전사와 받아쓰기에 사용할 수 있는 167MB 음성 인식 모델 Bark를 공개했다.

의미와 한계

로컬 음성 AI의 가장 큰 장점은 개인정보 보호와 접근성이다. 회의 기록, 개인 메모, 보조 기능을 기기 안에서 처리할 수 있다면 음성 데이터를 클라우드로 계속 전송하는 일을 줄일 수 있다. 인터넷 연결이 불안정하거나 클라우드 추론 비용을 낮추려는 개발자에게 오프라인 실행도 매력적인 선택이 될 수 있다. 작은 모델은 브라우저, 데스크톱 애플리케이션, 소비자 기기에 넣기도 상대적으로 쉽다.

그러나 모델의 크기만으로 실제 성능을 판단할 수는 없다. 긴 문장, 고유명사, 여러 화자, 다양한 언어를 처리할 때의 안정성과 장시간 생성 품질은 독립적인 검증이 필요하다. 언더독 역시 Woof가 대형 모델을 대체한다고 주장하지 않는다. 현재로서는 로컬 음성 비서, 개인화 팟캐스트, 가벼운 엔터테인먼트 애플리케이션을 위한 구성 요소로 보는 편이 현실적이다.

Woof와 Bark는 오픈 모델과 로컬 추론을 결합해 사용자가 데이터를 더 많이 통제하도록 하려는 언더독의 전략을 보여준다. 회사는 노트북에서 실행할 수 있는 더 큰 모델과 로컬 호스팅을 지향하는 대기 목록 앱도 언급했다. 기기 성능이 향상되는 가운데 음질, 속도, 개인정보 보호 사이의 균형을 잡을 수 있는지가 소형 음성 모델의 실용화를 결정할 전망이다.

출처: TechCrunch AI