MACR은 신뢰도 보정으로 모델 간 추론 바통을 넘긴다

무엇인가

기존 다중 에이전트 협업(MAC) 연구는 대부분 '그룹 사고' 토폴로지를 따른다. 여러 에이전트가 각자 완결된 해답을 병렬로 만들고, 상호작용이나 집계로 하나로 합치는 방식이다. 이 논문은 그 대안으로 '릴레이 사고'를 제안한다. 하나의 추론 궤적에 대한 소유권이 동적으로 다른 모델로 넘어가고, 다음 모델이 앞 모델이 쌓아둔 중간 추론을 물려받아 이어서 정련한다. 동기는 명확하다. 단일 모델이 복잡한 문제를 풀다 보면 중간에서 추론 병목에 걸려 더 진행하지 못하는데, 병목이 걸리는 지점과 잘하는 단계가 모델마다 다르기 때문이다.

어떻게 동작하나

MACR(Multi-Agent Confidence-guided Relay)의 구현은 두 단계로 나뉜다. 먼저 오프라인에서 이질적인 모델 간에 비교 가능한 신뢰도 지표를 세운다. 다음으로 온라인에서 '시작–모니터링–입찰–릴레이'로 이어지는 스케줄링 루프를 돌린다. 핵심 질문은 두 가지다. 언제 추론 소유권을 넘길 것인가, 그리고 어떤 모델에게 넘길 것인가. 저자들은 이 둘을 모두 모델의 국소 신뢰도로 결정한다.

무엇과 다른가

신뢰도 보정 절차가 이 논문의 기술적 핵심이다. 모델 m이 생성한 토큰별 로그 확률 c_i에 크기 w인 슬라이딩 윈도우를 적용해 국소 신뢰도 W(윈도우 내 평균 로그 확률)를 계산한다. 문제는 Qwen3-VL-8B-Instruct, InternVL3.5-8B, MiniCPM-V-4.5-8B 세 모델의 원시 신뢰도 분포가 서로 어긋난다는 점이다. MMMU에서 1,000개를 샘플링해 커널 밀도 추정으로 그려보면 분포가 뚜렷하게 이동해 있고, 일원 분산분석에서 F=13.31이 나온다. 집단 간 분산이 집단 내 잡음보다 훨씬 크다는 뜻이므로 원시 확률은 수학적으로 비교 불가능하다. 저자들은 각 모델이 과거 참조 데이터에서 만든 윈도우 크기별 평균 μ와 표준편차 σ로 z점수 표준화를 적용했고, 그 결과 F가 1.01로 떨어져 모델 간 이동이 제거된다. 추가로 표준화된 데이터를 정답·오답 궤적으로 나눠 보면 정답 궤적의 국소 신뢰도가 더 높다. 즉 신뢰도 하락은 모델이 병목을 만났다는 신호로 쓸 수 있다.

어떻게 쓰나

온라인 루프는 네 단계다. 시작 단계에서는 모든 후보 모델이 초기 컨텍스트로 길이 w의 시퀀스를 생성하고, 표준화 신뢰도가 가장 높은 모델이 첫 생성권을 갖는다. 모니터링 단계에서 리드 모델은 자기회귀 생성 중 매 시점 국소 신뢰도를 보정해 계산하고, 값이 임계값 τ 아래로 떨어지면 병목으로 판정해 생성을 중단시킨다. 입찰 단계에서는 현재 컨텍스트를 모든 모델에 동기화해 각자 w토큰짜리 후보 시퀀스를 만들게 하고, 보정된 신뢰도가 최대인 모델을 고른다. 릴레이 단계에서는 그 모델의 시퀀스를 기존 컨텍스트 뒤에 그대로 이어 붙이고 생성권을 넘긴다. 각 모델이 자기 KV 캐시를 따로 유지하므로 재프리필이 필요 없다. 윈도우 크기 w=16, 임계값 τ=-0.3은 평가셋과 겹치지 않는 RealWorldQA 600개 샘플에서 탐색한 값이다.

전제와 한계

실험은 MMStar, HallusionBench, LogicVista, MathVista 네 개 멀티모달 벤치마크에서 진행됐고, 세 개의 8B 모델 풀을 쓴다. 베이스라인은 단일 모델 전략(IO, CCoT, DDCoT)과 다중 에이전트 전략(Majority Vote, H-DMAD)이다. 세 시드 평균으로, 가장 강한 단일 모델 전략 대비 MathVista에서 78.00% 대 74.70%로 +3.30%p, MMStar에서 72.00% 대 68.13%로 +3.87%p를 올렸다. 토큰은 오히려 적다. MMStar에서 MACR은 4,150토큰을 쓰는데 CCoT는 5,434, DDCoT는 5,227이다. 다중 에이전트 전략과는 정확도가 비슷하면서 토큰을 6.00배 적게 쓴다. HallusionBench 4,414 대 26,375, MMStar 4,150 대 24,677이다. 비용 대비 증분 이득(IBC)은 21.35로 최고치이며, H-DMAD 대비 MMStar에서 21.35 대 2.83, MathVista에서 15.38 대 2.63이다.

분석 파트도 구체적이다. 모델 간 전이 행렬을 보면 MiniCPM-V 4.5는 자기 전이율이 59.7%로 가장 높지만 나머지 40.3%는 다른 모델에 생성을 넘기고, InternVL 3.5는 22.4%를 Qwen3-VL로, Qwen3-VL은 26.9%를 다시 InternVL로 넘긴다. 어떤 모델도 절대적 우위를 유지하지 못한다는 뜻이다. 카플란-마이어 생존 분석에서는 MiniCPM-V 4.5가 초반 생존(number at risk 3,151)에서 다른 두 모델(1,163과 1,658)의 약 두 배를 보이고, InternVL 3.5는 후반 구간에서 긴 plateau를 유지하며, Qwen3-VL은 장기 유지가 가장 나쁘다. 병목 발생 위치는 과제에 따라 갈린다. 논리 중심 과제인 LogicVista·MathVista는 초반에 릴레이가 몰리고, 시각 중심 과제인 MMStar·HallusionBench는 후반에 몰리며, 마지막 단계에서는 모든 과제에서 입찰 빈도가 안정된다. MMStar 500개 샘플 절제 실험에서 시작 모델을 고정하면 71.6/71.2/70.4%로 MACR의 72.4%보다 낮고, 라우팅 순서를 고정하면 69.0%, 문장 경계마다 무조건 넘기면 69.8%로 떨어진다. 동종 모델 풀에서 역할극으로 다양성을 흉내 내면 68.0/70.2/64.8%, 온도를 올려 샘플링하면 66.6/68.8/63.6%로 모두 하락한다. 어휘 분석에서는 InternVL이 analyze·examine·identify 같은 분석적 근거 추출에서, MiniCPM-V가 position·top·left·large 같은 공간 국소화와 속성 결속에서, Qwen3-VL이 since·therefore·suggesting 같은 인과 추론에서 주로 멈칫하며, 세 모델 모두 wait·look·check 같은 정지 토큰을 공통적으로 내뱉는다.

실무 관점에서 이 구조를 쓰려면 몇 가지 전제를 먼저 확인해야 한다. 토큰별 로그 확률에 접근해야 하므로 화이트박스 모델이나 로짓을 노출하는 API가 필요하다. 모델마다 과거 참조 데이터로 평균과 표준편차를 미리 캘리브레이션해야 하고, 이 기준 분포가 바뀌면 보정도 다시 해야 한다. 모델 풀의 이질성이 성능의 원천이므로, 같은 계열 모델을 여러 개 붙이는 구성에서는 이득이 사라진다는 점이 절제 실험으로 확인됐다. 서빙 측면에서는 모델별 KV 캐시를 동시에 유지해야 하므로 메모리 요구량이 늘어난다. 대신 병렬 투표처럼 모든 모델이 처음부터 끝까지 답을 만드는 낭비가 없어, 토큰 비용이 민감한 서비스에서 단일 모델 위에 라우팅만 얹는 절충안으로 검토할 만하다.

논문에는 별도의 한계 절이 없다. 다만 본문에서 확인되는 전제는 분명하다. 실험은 8B급 모델 세 개로 구성된 풀과 멀티모달 벤치마크 네 개에 한정되며, 윈도우 크기와 임계값은 RealWorldQA에서 탐색한 고정값이다. 신뢰도 캘리브레이션이 참조 데이터셋 분포에 의존하므로 도메인이 크게 달라질 때 그대로 전이된다는 보장은 원문에 제시되지 않았다.