VibeVoice-ASR-BitNet이 1.58GB로 CPU에서 음성을 전사한다

마이크로소프트가 공개한 오픈소스 음성인식 모델 VibeVoice-ASR-BitNet은 모델 크기를 1.58GB까지 줄여 CPU만으로 추론하도록 만든 것이 핵심이다. 중국 매체 oschina는 AIGCPanel이 이 모델을 원클릭으로 실행할 수 있는 패키지로 묶었다고 전했다.

원문에 따르면 이 모델은 4.62GB였던 것을 1.58GB로 압축한 버전이다. 모델 이름에 들어간 BitNet은 저비트 양자화 계열을 가리키며, 가중치를 낮은 비트 수로 표현해 메모리 사용량과 연산 비용을 줄이는 접근이다. 지원 언어로는 중국어와 영어, 프랑스어, 이탈리아어 등이 언급됐지만 원문 목록이 중간에 끊겨 전체 범위는 확인되지 않는다.

배경에는 로컬 환경의 진입장벽이 있다. 쓸 만한 중국어 전사를 로컬에서 돌리려면 GPU를 갖추거나 Python과 CUDA 환경을 반나절 이상 세팅해야 하는 경우가 많았다. CPU만 사용하는 방법도 있었지만 속도와 정확도 사이에서 타협하는 사례가 대부분이었다는 것이 원문의 설명이다.

개발자 입장에서 1.58GB는 노트북이나 사내 서버에 부담 없이 올릴 수 있는 크기다. 여기에 원클릭 패키지가 더해지면 Python 의존성과 CUDA 설치 부담이 줄어든다. GPU가 없는 개발 장비나 외부 네트워크를 쓰기 어려운 환경에서 음성 전사 파이프라인을 실험하는 비용이 낮아진다는 뜻이다.

주의할 점도 있다. 원문 제목은 CPU 실시간 전사를 내세우지만, 본문에는 지연 시간이나 정확도, 벤치마크 수치가 제시되지 않았다. 처리 속도는 CPU 성능과 오디오 길이에 크게 좌우되므로 도입 전 자체 오디오로 측정해야 한다. 지원 언어 전체 목록과 라이선스 조건 역시 원문만으로는 확인되지 않는다.