디퓨전 LLM은 과제마다 토큰당 연산량이 3배 넘게 차이 난다

무엇인가

디퓨전 언어모델은 한 번의 전진 패스에서 여러 토큰을 쓰고, 생성 중에 몇 번의 패스를 쓸지 스스로 정한다. 그래서 토큰 길이가 같은 두 출력도 비용이 크게 달라질 수 있다. 이 논문은 그 비용 차이가 어디서 오는지를 두 모델, 10개 과제에서 체계적으로 측정한다. 자동회귀 모델은 토큰마다 정확히 한 번의 전진 패스를 쓰므로 비용이 항상 일정하지만, 디퓨전 모델은 그렇지 않다는 점이 출발점이다.

어떻게 동작하나

측정 지표는 출력 100토큰당 전진 패스 수다. 출력 y에 대해 cost(y) = 100 × P/T로 정의하며, P는 y를 생성하는 데 쓴 전진 패스 수, T는 생성 토큰 수다. 첫 <eos>까지의 실제 생성 토큰만 세고, 블록 용량이 아니라 생성 토큰으로 정규화해 블록 크기 32와 256을 가진 모델을 같은 잣대로 비교한다. 자동회귀 모델의 비용은 항상 100이고, 한 스텝에 20토큰을 쓰는 디퓨전 모델은 5가 된다. 실험 모델은 26B MoE에 256토큰 블록을 쓰는 DiffusionGemma-26B-A4B-it과, 8B dense에 32토큰 블록을 쓰는 DreamReasoner-8B다. 둘 다 준자동회귀 블록 디퓨전을 쓰고, 신뢰도 임계값을 넘는 토큰만 커밋해 스텝 수를 동적으로 정한다.

무엇과 다른가

과제는 답을 무엇이 제약하는지에 따라 세 묶음으로 나뉜다. 입력을 거의 그대로 옮기는 재현 과제로 W&I+LOCNESS 문법 교정과 GovReport 추출 요약, 앞 단계에 뒤 단계가 의존하는 연쇄 과제로 HumanEvalFix 코드 편집, LiveCodeBench 코드 생성, MathArena 경시 수학, 제약이 느슨한 개방형 과제로 WildBench v2와 WritingPrompts 이야기 생성을 쓴다. 여기에 WMT23 독→영 번역, ACI-BENCH 진료 기록, BookSum 장 요약이라는 재작성 과제 세 개가 추가된다.

어떻게 쓰나

결과는 과제군 순서대로 단조 증가한다. DiffusionGemma는 100토큰당 4.0, 5.8, 9.8 패스가 들었고, 극단끼리 비교하면 문법 교정 3.72 대 이야기 생성 11.43으로 3.1배 차이다. DreamReasoner도 22.1, 56.2, 87.0으로 같은 순위를 보였고 격차는 4.3배였다. 블록 크기가 작아 전체 비용은 훨씬 높지만, 어떤 과제가 더 비싼지는 두 모델이 일치했다. 저자들은 이 차이를 두 축으로 설명한다. 하나는 출력이 입력 대비 얼마나 새로운지를 재는 novelty로, 입력에서 그대로 복사된 연속 구간과 복사되지 않은 단어를 세어 출력 단어 수로 나눈다. 다른 하나는 과제 내 단어 빈도로 계산한 surprisal이다. 둘을 곱한 새 정보량(NI)이 비용과 가장 잘 맞았고, 상관계수는 DiffusionGemma에서 0.72에서 0.76으로, DreamReasoner에서 0.79에서 0.85로 올라갔다. 다만 번역은 NI가 이야기 생성과 비슷한데도 비용은 6.0 대 11.4로 훨씬 낮아, 표면적 복사를 재는 novelty가 언어를 넘는 복사를 잡지 못하는 한계가 드러난다.

전제와 한계

사고 과정을 켜면 같은 현상이 한 응답 안에서 반복된다. 경시 수학 문제 하나를 따라가면 사고에 10,339토큰(40블록+답변과 공유하는 1블록)을 쓰며 블록당 비용이 3.81이었고, 1,241토큰짜리 최종 답변은 5블록에 비용 2.88이었다. 최종 답변은 질문 대비 novelty가 87%지만 사고 대비로는 15%에 불과하다. 과제 전반에서 사고 대비 답변의 novelty와 비용 격차는 상관 0.89(p=0.001)를 보였고, 과제 내에서도 10개 과제 모두 양의 상관(+0.06~+0.90, 7개 유의)이었다. WildBench(68%)와 이야기 생성(76%)처럼 답변이 사고에서 크게 벗어나는 경우에는 오히려 답변이 사고보다 비싸진다(+0.60, +2.32).

난이도 실험은 AIME I·II, HMMT, CMIMC 문제를 대회 내 위치로 easy/middle/hard 삼등분해 각 5시드로 돌렸다. 정확도는 79%에서 57%, 44%로 떨어지고 사고 길이는 중앙값 4,416에서 9,710토큰으로 늘었다. 사고 비용은 5.00에서 5.89로, 답변 비용은 4.15에서 5.21로 올랐는데, 이 상승은 전적으로 오답에서 나온다. 정답 답변은 3.88에서 4.02로 거의 그대로인 반면 오답은 5.16에서 6.13으로 비싸진다. 대회·문제 위치·양 단계 토큰 수를 통제해도 오답은 100토큰당 1.20패스, 같은 문제와 길이를 고정하고 시드만 바꿔도 0.83패스를 더 쓴다. 다국어에서는 FLORES 영어 문장 200개를 25개 언어로 번역했을 때 아르메니아어가 문장당 16.9패스로 스페인어 5.3패스의 3.2배였고, 토큰 수 차이(75 대 36)뿐 아니라 토큰당 패스(24.7 대 15.7)도 벌어졌다. 단어가 더 잘게 쪼개지는 언어가 토큰당 패스도 더 많이 드는 상관(r=+0.65, p=0.002)이 있어, 토큰화 불이익 위에 디코딩 불이익이 겹치는 이중 비용이 생긴다.

마지막으로 저자들은 이 비용을 확신도 신호로 쓴다. 경시 수학 255문제를 5회씩 샘플링해, 각 답변의 득표를 답변 토큰당 전진 패스 수(디코딩 속도)로 가중하면 단순 다수결을 모든 답변 수에서 앞선다. 답변 2개일 때 4.2포인트, 5개일 때 2.3포인트 개선이며, 5개 기준 정확도는 71.4%에서 73.7%로 오르고 부트스트랩 95% 신뢰구간은 [0.3, 4.5]다. 사고 토큰 수의 역수로 가중하면 71.0%로 다수결과 비슷해, 단순히 짧은 추론을 선호하는 효과가 아님을 보인다. 실무자 입장에서는 같은 출력 길이라도 과제·언어·정답 여부에 따라 연산량이 3배 이상 갈릴 수 있으므로, 처리량과 비용을 토큰 수만으로 추정하지 말고 실제 전진 패스 수를 계측해야 한다. 또한 디코딩 속도를 별도 비용 없이 얻을 수 있는 신뢰도 지표로 쓸 수 있다는 점이 서빙·평가 파이프라인에 바로 적용 가능한 시사점이다. 저자들이 밝힌 한계는 분명하다. 적응적 디코딩을 학습했으면서 추론·번역·장문 작성을 감당하는 모델이 극히 드물어 두 모델만 분석했고, 그마저도 2026년 6월과 8월에 나온 최신 모델이다. 대부분의 이전 공개 모델은 고정 스텝으로 학습돼 적응적 디코딩이 추론 시점 트릭으로 나중에 붙었기 때문에, 더 다양한 규모와 학습 레시피로 결과를 확장하는 일은 남은 과제다.