마이크로소프트가 Qwen3.5-9B로 만든 선택지 채점 모델을 공개했다

Hacker News6일 전

마이크로소프트가 2026년 10월 9일 공개한 Microsoft-Decision-1은 대화형 모델이 아니다. 문단을 써 주거나 요약을 해 주는 대신, 사용자가 미리 정의한 선택지 목록을 받아 각 항목에 대한 확률값을 한 번의 포워드 패스로 계산해 돌려준다. Microsoft Foundry를 통해 즉시 사용할 수 있게 했고, 곧바로 OpenRouter에도 올라갔다.

동작 방식은 단순하다. 판단에 필요한 컨텍스트와 후보 답안 집합을 함께 넣으면, 모델은 자유 형식 텍스트를 생성하지 않고 후보별로 캘리브레이션된 점수를 낸다. 출력이 이미 확률 분포이기 때문에 챗봇 응답을 파싱하거나 형식을 맞췄는지 확인하는 후처리 단계가 사라진다. 마이크로소프트가 내세운 용도는 라우팅, 분류, 우선순위 지정, 검증, 그리고 이들을 묶은 워크플로 제어다. 상담 티켓을 담당 팀으로 보내거나, 사용자 콘텐츠에 대한 예/아니오 판정을 내리거나, 에이전트 출력이 다음 단계로 넘어가도 되는지 통과/실패를 가르는 일이 여기에 해당한다.

기반 모델이 화제의 중심에 섰다. Decision-1은 알리바바의 90억 파라미터 오픈웨이트 모델 Qwen3.5-9B를 포스트트레이닝해 만들어졌다. 자체 프런티어 모델과 OpenAI 파트너십에 막대한 자금을 넣어 온 회사가 경쟁 연구소의 가중치를 제품의 출발점으로 삼은 셈이다. 마이크로소프트는 이 선택이 최종 목적지가 아니라고 선을 그었다. 향후 Microsoft AI(MAI)와 OpenAI 모델을 포함한 다른 기반으로 갈아탄다는 계획을 공개 발표문에 명시했다. 좁고 명확한 과업에서 시장 출시 속도를 택한 결정으로 읽힌다.

성능 주장은 규모로 밀어붙였다. 36개 벤치마크와 약 15만 개의 홀드아웃 질문을 묶은 비교에서 정확도 83.5%로 가장 높은 점수를 기록했다는 것이 회사 측 설명이다. 속도 쪽 숫자는 더 자극적이다. 자사 벤치마크 기준으로 Quyet-1.0-Large보다 4.5배, GPT-6 Sol보다 35배 빠른 P50 지연을 보였고, 비교군 2위였던 H2O-Lightning-4B v1.1보다는 2.5배 빨랐다고 한다. 대만 언론은 응답 시간이 85밀리초 수준이라고 전했지만 하드웨어와 테스트 조건은 밝히지 않았다.

여기서 한 발 물러설 필요가 있다. 위 수치는 전부 마이크로소프트가 자체적으로 수행해 발표 자료에 담은 결과이며, 이를 독립적으로 재현한 제3자 검증은 확인되지 않는다. 35배라는 배수도 성격을 따져봐야 한다. Decision-1은 정해진 선택지를 채점하고 GPT-6 Sol은 텍스트를 생성하므로, 서로 다른 작업을 하는 시스템의 지연 시간을 나란히 놓은 비교다.

운영 관점에서 더 눈여겨볼 항목은 따로 있다. 마이크로소프트는 입력이 조금 바뀌어도 판정이 흔들리지 않는 비율, 이른바 섭터베이션 안정성이 98.7%라고 밝혔다. 라우팅이나 통과/실패 판정처럼 결과가 자동으로 후속 시스템을 움직이는 자리에서는 표현이 살짝 달라졌다는 이유로 결론이 뒤집히면 그 자체가 장애 원인이 된다. 외부 검증이 붙는다면 실무 팀에 꽤 유용한 지표가 될 수 있다.

가격은 OpenRouter 모델 목록에서 확인된 값으로, 입력 100만 토큰당 0.042달러에 출력은 무료다. 출력이 생성 텍스트가 아니라 짧은 확률 목록이니 과금할 대상이 사실상 없다는 구조와 맞아떨어진다. 마이크로소프트 공식 발표문과 Foundry 문서에서는 확정 가격이 확인되지 않았다는 점은 감안해야 한다.

이 제품이 나온 배경에는 에이전트 파이프라인의 현실이 있다. 요즘 시스템은 하나의 거대 모델이 모든 걸 처리하기보다 여러 단계로 쪼개진 판단 노드를 거친다. 그 노드들이 요구하는 것은 창의성이 아니라 일관된 분류와 낮은 지연, 그리고 호출당 비용이다. 90억 파라미터급 특화 모델이 이런 자리를 채우면 범용 추론 모델을 매번 부르는 것보다 싸고 빠르다.

개발자 입장에서 달라지는 것은 출력 계약이다. 프롬프트에 "JSON으로만 답하라"고 부탁하고 파싱 실패를 처리하던 코드가, 처음부터 확률 분포를 주는 엔드포인트로 바뀐다. 검증기나 라우터를 자체 소형 모델로 직접 튜닝하던 팀이라면 상용 API와 비교해 볼 만한 선택지가 하나 늘었다. 다만 기반 모델이 Qwen에서 MAI·OpenAI 계열로 교체될 예정이라고 공개된 만큼, 특정 기반 모델의 거동에 맞춰 임계값을 정교하게 튜닝해 두었다면 재기반 시점에 재검증이 필요하다.

한계도 분명하다. 자유 형식 생성이 되지 않으므로 선택지를 미리 정의할 수 없는 문제에는 쓸 수 없다. 벤치마크와 속도, 안정성 수치는 모두 벤더 보고 값이며, 가격 역시 공식 문서가 아닌 유통 채널 표기에서 나온 것이다. 도입 판단 전에 자체 태스크로 직접 측정하는 절차를 건너뛰지 않는 편이 좋다.