Musubi가 정책 문서로 실시간 콘텐츠를 분류하는 PolicyLM-1.7B를 공개했다

Musubi가 실시간 콘텐츠 모더레이션을 겨냥한 경량 결정 모델 PolicyLM-1.7B를 오픈 웨이트로 공개했다. 사람이 쓴 평문 정책 문서를 입력으로 받아, 개별 메시지가 그 정책에 해당하는지 아닌지를 50밀리초 이내에 판정하는 것이 목표다. 모델 크기는 이름 그대로 17억 파라미터 수준이다.

결정 모델(decision model)은 문장을 생성하는 대신 정해진 선택지에 대한 결과 확률을 내놓는 구조다. PolicyLM-1.7B의 출력은 한층 더 단순해서, 해당 콘텐츠가 특정 카테고리에 속하는지 아닌지를 나타내는 이진 판정이다. 출력 공간을 미리 좁혀두기 때문에 트랜스포머 아키텍처의 유연성은 유지하면서도 대형 언어 모델보다 빠르고 저렴하게 돌릴 수 있다.

Musubi는 이 모델의 비용과 속도가 대부분의 소셜 플랫폼에서 모더레이션을 담당하는 기존 AI 분류기와 비슷한 수준이라고 설명한다. 차이는 정책 적용 방식에 있다. 기존 분류기는 정책이 바뀔 때마다 라벨을 다시 붙여 재학습해야 하지만, PolicyLM-1.7B는 정책 문서 자체를 바꿔 넣으면 된다. 정책 담당자가 원하는 만큼 빠르게 정책을 고쳐 쓸 수 있다는 뜻이다.

공동창업자 겸 최고 AI 책임자인 필립 얀코비치는 플랫폼 운영팀이 자기 서비스에서 벌어지는 일을 더 정확히 파악하려는 수요가 크다고 본다. 콘텐츠 양이 급격히 늘어나는 상황에서 확장 가능하고 커스터마이즈 가능한 방식으로 전체 콘텐츠에 라벨을 붙일 수 있다는 점이 이 모델의 활용처라는 설명이다.

결정 모델은 지난 9월 TypeSafe AI가 Jev를 내놓으면서 AI 업계의 화두로 떠올랐고, 이후 OpenAI와 Amazon도 경쟁 모델을 내놨다. 흥미로운 점은 결정 모델의 초기 용도 중 하나가 AI 에이전트의 일탈을 통제하는 것이었다는 사실이다. 같은 기술을 인간의 일탈, 즉 콘텐츠 모더레이션에 적용하는 흐름은 자연스러운 확장이다.

얀코비치는 결정 모델에 대한 관심이 Jev보다 앞선다고 말한다. 2024년 개체명 인식 범용 모델인 GLiNER 프로젝트에서 이미 같은 계열의 기법을 다뤘다는 것이다. Musubi는 Jev와의 비교를 피하지 않는다. 제품 발표문에서는 Jev에 관심을 가졌다면 PolicyLM-1.7B가 같은 종류의 모델이며 콘텐츠 모더레이션에 특화해 직접 실행할 수 있다고 밝히고 있다.

개발자 입장에서 달라지는 지점은 정책 운영 방식이다. 정책 변경이 곧 모델 재학습과 재배포를 의미했던 구조에서 벗어나, 자연어로 쓴 정책 문서를 교체하는 것만으로 판정 기준을 바꿀 수 있다. 오픈 웨이트로 공개됐기 때문에 외부 API에 의존하지 않고 자체 인프라에서 추론을 돌릴 수 있다는 점도 선택지다. 플랫폼 전체 메시지에 라벨을 붙여 통계를 뽑거나, 사후 검토 대상을 좁히는 용도로도 쓸 수 있다.

다만 출력이 이진 판정이라는 점은 양날의 검이다. 카테고리별 확률이나 판단 근거를 함께 받아 정책을 세밀하게 조정하려는 팀에는 정보가 부족할 수 있다. 성능이 정책 문서를 얼마나 명확하게 작성했는지에 좌우된다는 전제도 따라온다. 원문은 구체적인 벤치마크 수치나 정확도 지표를 제시하지 않았으므로, 도입 전에는 자체 데이터로 검증하는 절차가 필요하다.