Lafa는 블록 단위 연속 플로우로 8B 언어모델 추론을 2.54배 빠르게 만든다

무엇인가

자기회귀(AR) 언어모델은 다음 토큰 하나를 예측하는 방식이라 학습은 병렬로 잘 되지만 생성은 본질적으로 순차적이다. 포워드 패스 한 번에 토큰 하나이므로 추론 지연이 병목이 된다. 이를 우회하려는 시도로 멀티토큰 예측(MTP), 이산 확산 모델, 연속 플로우 언어모델이 있었는데, 플로우 모델은 이미지·비디오에서 쓰인 제어·가속 기법을 그대로 가져올 수 있다는 장점에도 지금까지는 작은 규모와 단순한 과제에서만 검증됐고, 확장 시도의 선행 연구는 학습 비효율을 보고했다. 이 논문은 그 지점, 즉 수십억 파라미터 규모에서 쓸 만한 플로우 언어모델을 만드는 방법을 다룬다.

어떻게 동작하나

제안 방법 Lafa의 골격은 블록 단위 분해다. 시퀀스를 크기 B의 블록으로 나누고, 블록 사이는 인과적으로 생성하되 블록 내부는 양방향이면서 왼쪽에서 오른쪽으로 편향된 비동기 플로우로 채운다. 각 블록은 원-핫이 아니라 어휘 임베딩으로 표현해 토큰당 차원을 |V|에서 d로 줄였고, 플로우 매칭으로 가우시안 노이즈에서 임베딩 분포로 가는 확률 경로를 만든다. 핵심은 토큰별 시간 τ로, 모든 토큰이 같은 속도로 노이즈가 걷히는 대신 앞쪽 위치가 더 빨리 진행하도록 한다. 모델은 속도장을 직접 배우지 않고 깨끗한 토큰을 예측하는 블록 디노이저를 학습하며, 논문이 부록 A.1에서 증명한 항등식으로 디노이저 예측과 임베딩 보간만으로 속도를 복원한다. τ 자체도 고정하지 않고, 위치별 디노이징 손실의 역 CDF로 온라인 추정해 어려운 노이즈 구간에 학습 샘플과 적분 스텝을 더 배분한다. 그 결과 왼쪽 우선 편향이 수동으로 강제되지 않았는데도 학습된 스케줄에서 앞 위치가 더 빨리 정제된다.

무엇과 다른가

학습은 사전학습된 AR 모델을 블록 디노이저로 개조하는 방식이다. 토큰별 시간 조건은 항등 초기화한 adaLN으로 넣어 처음에는 기존 계산을 건드리지 않게 하고, 노이즈 블록 내부만 양방향 어텐션을 허용하며 블록 위치는 깨끗한 프리픽스 전체를 본다. 프리픽스 위치는 항상 시간 1을 받으므로 키·값이 블록 상태와 무관해져 프리픽스 캐시를 재사용할 수 있다. 임베딩은 사전학습 값을 초기화로 쓰되 L2 노름을 원래 값으로 고정하고 방향만 학습한다. 노름이 커지면 유효 손상량이 줄어 디노이징이 쉬워지는 꼼수를 막기 위해서다. 손실은 프리픽스 AR 크로스엔트로피, 디노이징 크로스엔트로피, 임베딩 제곱오차의 합이며, 깨끗한 시퀀스와 노이즈 블록으로 나눈 사본을 짝지어 한 번의 포워드 패스로 모든 블록을 병렬 학습한다. 여기에 자기조건화와, 학습된 플로우를 한 단계·소수 단계 생성용 플로우 맵으로 증류하는 절차가 더해진다.

어떻게 쓰나

추론은 두 갈래다. 오일러 적분으로 블록을 여러 스텝 정제하거나, 증류한 플로우 맵으로 한 번에 점프한다. 여기에 자기추측 디코딩이 붙는데, 한 스텝 플로우로 블록 초안을 뽑고 남겨둔 AR 예측기로 검증해 탐욕적 AR 예측과 일치하는 가장 긴 프리픽스만 커밋한다. 첫 토큰부터 어긋나면 AR 예측값을 대신 커밋하므로 최종 출력은 AR 탐욕 디코딩과 동일하다. 이전 초안 검증과 다음 후보 생성까지 한 번의 포워드 패스에서 처리한다.

전제와 한계

실험은 0.5B·7B를 Qwen2.5 Instruct 체크포인트에서, 8B는 Qwen3 8B Base에서 출발해 Dolci-Instruct-SFT로 5~15에폭(9~27B 토큰) 학습했다. Dream·LLaDA·Efficient-DLM의 보고 예산보다 최소 18배 적은 토큰이다. 평가는 IFEval, BBH, MMLU-Pro, GPQA, GSM8K, HumanEval 여섯 개로 lm-evaluation-harness를 썼다. 블록 크기 4로 적분 스텝을 충분히 주면 플로우 디코딩이 0.5B에서 AR SFT에 근접하고 7B에서는 능가한다. 단일 토큰 AR 디코딩 기준으로도 Lafa는 세 규모 모두 짝지은 AR SFT보다 평균 정확도가 높았고, 8B에서는 18배 적은 토큰으로 Efficient-DLM과 비슷한 정확도를 냈다. 병렬성은 토큰/포워드(TPF) 약 2.5~5로, 0.5B 블록 8은 DeepSeek-MTP·MARS·PTP의 약 2배 TPF에 더 높은 정확도를 보였고 7B 블록 8은 MARS 블록 4와 같은 정확도를 약 1.5배 TPF로 달성했다.

H100 한 장, 배치 1에서 잰 실제 처리량이 이 논문의 핵심 숫자다. 7B 블록 16이 평균 정확도가 비슷한 조건에서 7B AR SFT의 2.54배 토큰/초를 냈고, 블록 4는 약 2배 빠르면서 평균 정확도는 더 높았다. DeepSeek-MTP와 MARS는 AR SFT 정확도를 맞추거나 넘으면서도 처리량은 최대 1.4배에 그쳤고, 확산 베이스라인들은 7B AR SFT 정확도 아래로 떨어졌다. 절제 실험에서는 블록 내 양방향 어텐션이 인과보다, 학습된 토큰별 시간이 동기식보다, 노름 고정·방향 학습 임베딩이 동결이나 무제약 갱신보다 나았고, 프리픽스 AR 손실을 더하면 플로우 정확도까지 올라갔다. 추론에서는 자기조건화의 이득이 가장 컸고 추가 모델 평가가 필요 없었다.

개발자 입장에서 이 논문의 실용적 요점은 새 모델을 처음부터 학습할 필요가 없다는 것이다. 이미 쓰는 AR 체크포인트를 30B 토큰 미만으로 개조해 블록 병렬 생성을 얻고, 같은 가중치에 남아 있는 AR 능력으로 초안을 검증해 출력 품질을 AR 탐욕 디코딩과 똑같이 유지할 수 있다. 다만 도입 전에 확인할 것은 세 가지다. 첫째, 여러 적분 스텝을 쓰는 플로우 디코딩은 AR 품질에 도달하려면 스텝이 필요하고, 한 단계·소수 단계의 속도 이득은 자기추측 검증에 의존한다. 둘째, 블록 크기가 정확도와 병렬성의 트레이드오프를 결정하므로 워크로드별로 B를 골라야 한다. 셋째, 8B 실험은 후속 학습이 성능을 떨어뜨려 Instruct가 아닌 Base 체크포인트에서 출발했다는 점이 명시돼 있어, 이미 후처리된 모델에 그대로 적용된다고 가정하면 안 된다.

저자들이 밝힌 한계도 분명하다. 플로우 맵 증류는 한 단계·두 단계 구간에서 정확도를 끌어올렸고 7B에서는 두 단계 학생이 네 단계 교사에 근접했지만, 여전히 여러 스텝을 쓰는 플로우 디코딩과의 품질 격차가 남는다. 자기조건화와 프리픽스 가이드를 플로우 맵 증류에 더 잘 통합하는 일은 향후 과제로 남겨졌다. 또 신뢰도 임계값으로 초안을 수락하는 방식은 AR 검증 대신 쓸 수 있지만 정확도를 속도와 맞바꾸므로 기본값은 자기추측 디코딩이다.