TacitVLA는 추론 텍스트 생성을 건너뛰고도 VLA 성공률을 유지한다

무엇인가

행동하기 전에 텍스트로 추론하는 VLA 모델은 그렇지 않은 모델보다 성능이 좋지만, 그 대가로 지연이 생긴다. 추론 텍스트는 자기회귀적으로 디코딩되므로 그 텍스트에 조건화되는 모든 행동은 디코딩이 끝날 때까지 기다려야 한다. 이 논문은 LIBERO와 PhysicalAI-AV에서 학습한 추론 VLA의 호출당 지연 가운데 53~70%가 추론 텍스트 생성에서 나온다고 측정한다. 기존의 완화책들, 예컨대 비전언어모델을 별도 컨트롤러보다 낮은 주기로 돌리는 듀얼 시스템, 이전 호출의 추론을 재사용하는 방식, 토큰 대신 잠재 추론을 쓰는 방식은 대기를 없애지 못하거나 오래된 정보에 행동을 조건화한다. 저자들이 던지는 질문은 이것이다. 행동이 현재의 추론에 조건화되어야 하는가, 아니면 추론을 생성하도록 학습하는 것만으로 충분한가.

어떻게 동작하나

논문은 추론 텍스트가 정책에서 세 가지 역할을 한다고 정리한다. 학습 중에는 목표(target)로서 백본 표현을 형성하고, 장기 과제에서는 에피소드 메모리(ledger)로 쓰이며, 배포 시에는 행동 전문가가 조건화하는 입력이 된다. 저자들의 주장은 세 번째 역할이 불필요하다는 것이다. 이득이 주로 첫 번째 경로로 온다면 추론 텍스트를 생성하는 것은 성능 향상 없이 지연만 더한다. TacitVLA는 최근 추론 VLA들이 채택한 구조, 즉 추론을 생성하는 비전언어 백본과 flow-matching 액션 전문가로 구성된 Mixture-of-Transformers를 그대로 쓴다. 백본과 액션 전문가는 가중치를 따로 두되 하나의 어텐션을 공유하고, 학습 손실은 액션 청크의 디노이징 목표인 flow-matching 항과 추론 텍스트 및 토큰화된 액션에 대한 다음 토큰 크로스엔트로피 항의 합이다. Explicit Reasoning은 π(a_t | c_t, r_t)로 액션 위치가 현재 추론 토큰까지 어텐션하지만, TacitVLA는 π(a_t | c_t)로 컨텍스트에만 어텐션한다. 두 정책은 시퀀스, 손실, 프롬프트, 데이터, 옵티마이저를 모두 공유하고 액션 위치의 어텐션 마스크만 다르다. 추론 감독 없이 같은 아키텍처를 학습한 No Reasoning이 지연 시간의 기준선 역할을 한다.

무엇과 다른가

배포 절차는 과제 유형에 따라 갈린다. 추론 텍스트가 현재 행동에만 쓰이는 비메모리 과제에서는 TacitVLA가 텍스트를 아예 생성하지 않으므로 지연이 No Reasoning과 같은 T_action이 된다. 생성된 하위 과제가 다음 호출들의 컨텍스트에 쌓이는 메모리 과제에서는 행동을 먼저 계산하고, 로봇이 그 액션 청크를 실행하는 동안 백본이 추론 항목을 생성해 다음 호출의 ledger에 넣는다. 이때 호출 지연은 T_action + max(0, T_reason − T_exec)가 되며, 생성이 실행 창보다 오래 걸릴 때만 그 차이만큼 다음 호출이 밀린다.

어떻게 쓰나

실험은 메모리 과제 두 개(RoboMME, RMBench)와 비메모리 과제 두 개(LIBERO, PhysicalAI-AV)에서 세 정책을 비교한다. RoboMME 카운팅 스위트 4개 과제 200 케이스에서 TacitVLA가 89.5, Explicit Reasoning이 86.7, No Reasoning이 79.0을 기록했고, 벤치마크의 인간 참조값 88.5보다도 높다. 추론 감독이 더한 이득은 TacitVLA 10.5점, Explicit Reasoning 7.7점으로, 행동 실행 중에 생성한 항목이 행동 전에 생성한 것과 같은 이득을 낸다는 뜻이다. 16개 과제 전체 학습에서는 No Reasoning 46.5, Explicit Reasoning 45.8, TacitVLA 48.1로, 벤치마크 최고 공개 결과인 FrameSamp + Modulator의 44.5를 넘는다. 카운팅 과제에서 TacitVLA의 82.7은 시뮬레이터 정답 하위 목표를 받는 오라클 행(83.9, 82.6)에 1.2점 차로 근접하고, 별도 비전언어모델로 하위 목표를 생성하는 학습된 심볼릭 시스템(38.0~48.8)은 크게 앞선다. RMBench에서는 Press Button에서 Explicit Reasoning 73.3, TacitVLA 74.3 대 No Reasoning 7.7로 격차가 크고, 네 과제 평균은 60.4, 77.0, 77.5로 WLA-0의 56.5를 웃돈다. 두 추론 정책 모두 99.7%의 에피소드에서 ledger를 정확히 유지했다.

전제와 한계

LIBERO-Plus에서는 추론 감독이 No Reasoning의 67.6을 Explicit Reasoning 73.5까지 끌어올렸고 TacitVLA는 72.9로 1점 이내 차이다. 포화에 가까운 표준 LIBERO 네 스위트에서는 98.5, 98.1, 98.6으로 사실상 동일하다. 로봇 초기 상태가 바뀐 축에서 이득이 가장 컸다(Explicit +11.4점, TacitVLA +10.2점). 자율주행에서는 380만 개 주행 이벤트로 학습해 공개 PhysicalAI-AV의 1,434개 홀드아웃 구간에서 개루프 평가했을 때 변위 오차가 No Reasoning 1.166m에서 Explicit 1.140m, TacitVLA 1.116m로 줄었고, AlpaSim 폐루프 441 장면에서는 장면 점수가 46.4%에서 52.3%, 52.5%로 올랐다. 참고로 같은 장면·프로토콜의 조직위원회 공개 롤아웃에서 100억 파라미터·4카메라 모델인 Alpamayo-R1이 55.0%를 기록했는데, TacitVLA는 절반 이하의 파라미터와 절반의 카메라로 2.5점 차까지 따라붙는다.

지연은 평가 에피소드마다 단계별 타이머로 측정했다. RoboMME 카운팅에서 액션 경로는 127ms, ledger 항목 생성은 93ms가 걸린다. TacitVLA는 800ms 실행 창(20Hz로 16개 행동)의 12% 안에 생성을 끝내므로 행동이 127ms 만에 준비되고, 두 단계를 직렬로 돌리는 Explicit Reasoning은 220ms로 1.7배 늦다. RMBench에서는 생성에 66~120ms가 걸려 7.0~11.2초 실행 창의 최대 1.1%에 불과했고, TacitVLA 169~171ms 대 Explicit 236~294ms로 1.4~1.7배 차이다. 비메모리 과제에서 TacitVLA는 텍스트를 생성하지 않으므로 LIBERO에서 147ms, 폐루프 주행에서 127ms로 No Reasoning과 같고, Explicit Reasoning은 각각 495ms, 269ms로 3.4배, 2.1배 느리다. LIBERO의 실행 창은 250ms인데 TacitVLA는 이를 지키고 Explicit Reasoning은 지키지 못한다.

실무 관점에서 이 논문이 주는 시사점은 추론 VLA의 지연을 줄이는 데 모델을 새로 만들거나 스케줄러를 추가할 필요가 없다는 것이다. 이미 학습된 추론 VLA라면 액션 전문가가 추론 토큰에 어텐션하지 않도록 마스크를 바꿔 다시 학습하는 것만으로 명시적 추론과 같은 성공률을 No Reasoning 수준의 지연에서 얻을 수 있다. 메모리 과제에서는 ledger 프로토콜을 그대로 두고 생성 시점만 실행 창 안으로 옮기면 된다. 다만 추론 감독의 이득이 백본 표현을 통해 온다는 것이 이 설계의 전제이므로, 추론 데이터의 품질이 곧 성능 상한이 된다는 점을 확인해야 한다.

저자들이 밝힌 한계는 다음과 같다. TacitVLA의 성능은 다른 추론 VLA와 마찬가지로 추론 데이터의 품질에 의존한다. 메모리 과제에서 생성 항목을 실행 창으로 미루는 것이 공짜인 것은 그것이 창 안에 들어갈 때뿐이며, 이 논문의 벤치마크에서는 창의 최대 23%를 차지했다. 항목이 더 길어지거나 실행 창이 더 짧아지면 생성이 창을 넘긴 시간만큼 지연이 더해진다. 비메모리 과제에서도 해석 가능성이 중요한 안전 필수 상황(자율주행 등)을 위해 실행 중 추론 텍스트를 생성하는 옵션을 남겨두었지만, 이는 향후 과제로 미뤘다.