확산 언어 모델 백본으로 딥리서치 지연을 6분의 1로 줄인다

무엇인가

딥리서치 시스템은 계획을 세우고 근거를 수집하고 종합하고 다시 고치는 과정을 반복한다. 이 반복 자체가 대화형 사용에서 가장 큰 지연 병목이 된다. 그런데 상용 시스템 대부분은 자기회귀(AR) 언어 모델 위에 올라가 있어서, 계획을 세우고 장문을 쓰는 단계가 좌에서 우로 한 토큰씩 나아가는 디코딩 방식에 묶여 있다. 검색 질의를 여러 개 뽑아야 할 때도 토큰을 하나씩 생성한 뒤에야 검색이 시작되고, 초반 구조적 판단의 오류는 뒤쪽 섹션까지 그대로 전파된다. 확산 언어 모델(dLLM)은 소수의 스텝 동안 시퀀스 전체를 병렬로 갱신하는 대안이지만, 계획·검색·수정이 교차하는 에이전트 파이프라인 안에서 실제 지연이 어떻게 달라지는지는 측정된 적이 없었다.

어떻게 동작하나

이 논문이 내놓은 DiffResearch는 모든 에이전트가 확산 언어 모델의 인스턴스인 오픈 멀티에이전트 프레임워크다. 질의 포맷팅, 계획, 계획 검증, 관련성 필터링, 정보 추출, 요약, 복잡도 평가, 질의 분해, 심사까지 아홉 개 에이전트가 붙고, 기본 파이프라인은 의도 분류·질의 재작성·계획·검색·작성의 다섯 단계에 선택적 심사 단계를 더한다. 핵심 설계는 백본 교체 가능성이다. 하나의 에이전트 추상화에 확산 런타임(google/diffusiongemma-26B-A4B-it)과 자기회귀 런타임(google/gemma-4-26B-A4B-it)을 갈아 끼울 수 있어서, 프롬프트·검색 호출·평가를 전부 고정한 채 디코딩 패러다임만 바꾼 비교가 가능하다. 에이전트 출력은 라우팅용 이진 플래그, 줄바꿈으로 구분된 질의 목록처럼 기계가 파싱하기 쉬운 형태로 최소화했고, 관련성·복잡도 에이전트는 짧은 디코딩 예산을, 요약 에이전트는 훨씬 큰 예산을 생성자에서 지정한다. 검색은 LLM을 개입시키지 않는 결정적 API 호출로 처리해 빠르고 캐시 가능하며 분리 실험이 쉽다.

무엇과 다른가

가장 눈에 띄는 구성 요소는 fast 모드(dFast)다. 같은 분해 프롬프트를 던지되, 커스텀 스트리머가 매 중간 디노이징 상태를 검사해 초안을 디코딩하고 사고 채널 흔적을 걷어낸 뒤, 요청한 개수만큼의 비어 있지 않은 하위 질의를 담은 JSON 객체가 나타나는 순간 그 상태를 채택한다. 조기 종료가 켜져 있으면 스트리머가 예외를 던져 분해 루틴이 최종 패스를 기다리지 않고 초기 하위 질의를 반환한다. 저자들은 이것이 드래프트 모델을 쓰는 투기적 디코딩이 아니라, 모델 자체의 중간 디노이즈 상태를 읽는 것이라고 명시한다. 대가는 초안에 중복 조각이나 거친 표현이 섞일 수 있다는 점인데, 검색 단계에서는 정확한 문구보다 주제 커버리지가 중요하므로 감당할 수 있는 트레이드오프라고 설명한다.

어떻게 쓰나

실험은 Deep Research Bench의 박사급 과제 100개(중국어 50, 영어 50, 22개 분야)에서 이뤄졌다. 평가는 공식 RACE 프레임워크를 Gemini 2.5 Pro 평가자로 돌려 0~1 척도로 집계했다. 종단 지연은 AR이 평균 71.45초인데 확산 백본은 dFull 11.89초, dFast 11.97초로 약 6배 빨랐고, p90에서도 111.87초 대 16.13초·16.33초로 격차가 유지됐다. 시간이 어디로 가는지 보면 모델에 묶인 두 단계가 전부다. 계획은 39.32초에서 3.6~3.7초로 10.7배, 장문 작성은 59.78초에서 5.1~5.3초로 11.7배 줄었다. 검색은 백본과 무관하게 거의 같았는데, 공유된 결정적 Semantic Scholar 호출이기 때문이다. 분해 단계만 떼어낸 100개 질의 프로브에서 정확한 개수의 JSON은 100건 모두 디노이징 도중 등장했고, 평균 8.99 스텝(중앙값 9, 범위 6~17)이었다. 첫 정확 개수 초안을 채택하면 중앙값 243.4ms로 전체 생성을 기다리는 484.9ms보다 1.99배 빨랐다. 반면 두 개 연속 상태에서 같은 JSON이 관측될 때까지 기다리는 안정 조건은 1.04배에 그쳤지만, 최종 답을 100건 중 91건에서 그대로 재현했다(첫 초안은 1건).

전제와 한계

품질은 무너지지 않았다. RACE 종합 점수는 dFast가 0.3969로 가장 높았고 dFull 0.3895, AR 0.3904 순이었다. 공통 성공 과제만 짝지어 비교한 분석에서는 두 언어 모두 종합 점수 평균 차이의 신뢰구간이 0을 포함했다. 길이 차이는 지연 차이에 비해 작다. 확산 보고서는 언어별 평균에서 AR보다 10~17% 짧았을 뿐인데 작성 단계는 11~12배 빨랐으므로, 출력이 짧아서 빨라진 것으로 설명할 수 없다. 다만 블라인드 수동 감사는 다른 문제를 드러낸다. 보고서 10건에서 표본으로 뽑은 핵심 주장 50개 중 완전히 뒷받침된 것은 14개(28%), 부분 지지 10개(20%), 저장된 근거 패킷으로 입증되지 않은 것이 26개(52%)였다. 인라인 인용 76건 중 41건(53.9%)이 인접 주장을 완전히 함의했고, 14건(18.4%)은 입증하지 못했다. 저자들은 이를 디코딩 특유의 효과가 아니라 검색 그라운딩이라는 시스템 공통 병목으로 해석한다.

논문은 통제 비교와 별개로 시스템 수준의 경쟁력도 보여준다. 더 강한 확산 모델인 Mercury를 백본으로 한 DiffResearch 인스턴스는 공개 리더보드에서 0~100 척도 기준 종합 48.03을 기록해, OpenAI Deep Research(46.45), Dr. Tulu(45.49), Claude Research(45.00)보다 위에 올랐다. 특히 장문 종합과 직결되는 통찰력 48.20, 가독성 47.40이 강점이었다. 다만 리더보드 항목마다 검색 인프라와 모델 규모, 엔지니어링 투자가 달라서 이 스냅샷은 시스템 경쟁력만 말할 뿐 확산 디코딩의 효과로 귀속할 수 없다고 선을 긋는다.

개발자 관점에서 이 논문의 실용적 주장은 좁지만 분명하다. 파이프라인의 지연 예산에서 모델 생성이 큰 비중을 차지하고, 최종 산출물의 문구 품질보다 중간 구조화 출력의 신속한 확보가 중요한 단계가 있다면, 확산 백본과 중간 상태 추출은 검토할 가치가 있다. 다만 dFast는 현재 파이프라인에서 종단 지연을 추가로 줄이지 못했다. 분해 단계 자체가 계획·검색·작성에 비해 작기 때문이다. 또한 하위 질의가 한 번에 나오므로 검색 호출을 동시에 뿌릴 수 있다는 원리적 이점은 실험에서 살아나지 않았다. 초당 1회로 요청이 제한돼 있어 병렬 디스패치는 향후 과제로 남겼다.

저자들이 밝힌 한계도 분명하다. 종단 속도 향상은 H200 포드에서 모델을 서빙하고 검색을 로컬로 유지한 조건의 측정이며, 로컬 확산 추론이 병목이 되거나 검색 비용이 생성에 비해 작은 환경에서는 절대적 격차가 달라질 수 있다. 소비자급 지연 예산에서는 벤치마크하지 않았다. fast 모드는 의도적으로 분해 단계에만 적용했고, 첫 정확 개수 초안이 최종 문자열과 거의 일치하지 않으므로(프로브에서 100건 중 1건) 문구 잡음이 허용되는 곳에만 쓸 수 있다. 통제 비교는 크기가 비슷한 단일 백본 쌍에 대한 것이므로 모델 계열과 규모를 넓힌 스윕이 필요하고, 리더보드는 시점 스냅샷이자 전체 시스템 간 비교다. 검색도 Semantic Scholar 한 채널만 써서 일부 과제는 필요한 출처를 받지 못했다. 코드는 Apache-2.0으로 공개돼 있다.