CausalWAM은 행동 원인 잠재변수를 희소 라우팅으로 분리한다

무엇인가

이 논문은 월드 액션 모델(World Action Model, WAM)이 시연 데이터만으로 행동을 학습할 때, 장면 예측에 필요한 잠재변수 전체와 행동을 실제로 유발하는 잠재변수를 분리할 수 있는지 다룬다. WAM은 관측에서 잠재변수를 뽑아 미래 장면 예측과 행동 생성을 동시에 수행한다. 그런데 예측은 장면 전체를 설명해야 하므로 테이블보나 배경 물체 같은 방해 변수(nuisance)까지 잠재변수에 들어가고, 행동 헤드가 이 변수들에 의존해도 시연 분포는 잘 맞출 수 있다. 기존 비선형 ICA류 식별은 시간 의존성, 개입, 잠재 동역학 가정을 요구하는 경우가 많아 실제 로봇 시연에서 적용하기 어렵다.

어떻게 동작하나

논문은 o_t=f(s_t), a_t=π(s_t,η_t)라는 관측적 월드 액션 과정을 두고, 행동에 기능적으로 영향을 주는 잠재변수 블록을 I_A로 정의한다. 희소성 제약이 없으면, 시연을 맞춘 어떤 행동 메커니즘도 각 행동 차원에서 진짜보다 같거나 많은 잠재변수에 의존할 수 있고, 이는 명제 1의 하한으로 정리된다. 반대로 행동 메커니즘의 의존 구조에 지원 희소성 제약을 걸면 추정된 상태-행동 의존 패턴이 잠재변수의 순열까지 동일하게 식별된다(정리 1). 나아가 행동 생성에 쓰는 압축 상태 C_t가 방해 변수와 섞이지 않고 진짜 행동 관련 블록 s_{t,I_A}의 가역 함수가 됨을 보인다(정리 2). 이 식별은 개입, 충분한 시간 의존성, 잠재 동역학 가정 없이도 성립하고, 행동 관련 변수가 방해 변수와 통계적으로 의존해도 유지된다고 주장한다. 전제는 미분가능성, 양의 밀도, 비퇴화/스팬 조건, 지원 희소성, 경로별 결합 등이다.

무엇과 다른가

구현인 CWAM은 사전학습된 Cosmos 3 Nano WAM의 행동 헤드에 희소 라우팅 경로를 추가하고, 월드 모델링 목적함수는 그대로 둔다. 각 행동 히든 상태는 미래의 노이즈 토큰을 제외한 깨끗한 컨텍스트 토큰(과제 토큰과 깨끗한 비전) 위로 어텐션하고, 위치·모달리티·청크 진행에 대한 관계 편향을 더한다. 라우팅 신호는 작게 초기화된 게이트를 통해 원래 히든 상태에 더해진다. 학습 손실은 상위 k개 라우팅 가중치의 질량을 키우는 토큰 수준 희소 손실(λ=0.01, 10^3 스텝 후 램프업)이며, 총 손실은 기존 WAM 손실에 이 희소 손실을 더한 것이다. 압축 상태 C_t는 어떤 행동 쿼리의 상위 k 라우팅 질량에 포함된 깨끗한 토큰 집합으로 정의된다. 기본 정책은 조밀한 MoT 비전-행동 경로를 유지하고, 라우터 가지만 정규화한다.

어떻게 쓰나

합성 실험은 잠재변수 20개 중 4개(|I_A|=4)가 행동을 유발하도록 설정하고, 관측 전용 MLP 인코더와 선형 행동 헤드를 쓴다. CWAM의 희소성은 헤드 열에 대한 그룹 패널티로 구현하고, 평균 절대 헤드 가중치가 큰 4개 좌표를 C_t로 선택한다. 이때 C_t는 행동 관련 잠재변수를 조밀 판독과 비슷하게 복원하면서 방해 변수에 대한 초과 예측(Δ_nuis)은 거의 0에 가까웠다. 반면 조밀 판독과 VAE 선택 좌표는 방해 변수를 진짜 블록 이상으로 잘 맞췄고, 무작위 4개 좌표는 행동 관련 변수 복원이 나빴다. C_t를 0으로 만들면 블록을 고른 모든 헤드의 행동 오차가 크게 올랐고, 보완 집합을 0으로 만들 때는 비용이 작았다. 숨은 환경 수 E를 늘려도 행동 관련 변수 정확도는 유지되고 조밀 판독만 큰 방해 초과를 보였다. 표 1의 개별 R² 수치는 제공된 본문에 숫자로 제시되지 않았다.

전제와 한계

폐루프 실험은 RoboCasa365, LIBERO, 실제 Franka R3 로봇의 큐브 쌓기에서 동일 설정으로 후학습한 Cosmos 3 베이스라인과 비교한다. RoboCasa365에서는 모든 기초 스킬군에서 평균 성공률이 베이스라인보다 높았고, 버튼 누르기에서 이득이 작고 서랍 열고 닫기, 랙 슬라이딩, 삽입, 픽앤플레이스에서 컸다. 과제 평균 성공률은 본문 표현으로 거의 두 배다. LIBERO에서는 두 정책 모두 높은 성공률을 보였지만 CWAM이 모든 스위트에서 앞섰고 LIBERO-Goal에서 가장 큰 이득을 냈다. 실제 로봇에서는 CWAM이 다수 시도에서 성공했고 베이스라인은 절반 미만이었다. 라우팅 가중치는 큐브 쌓기에서 두 큐브와 목표에 집중되는 경향이 있었으나 일부 프레임에서는 로봇 팔과 벽으로 분산됐다. 가장 성공률이 높은 RoboCasa365 네 과제에서 라우팅 토큰만 쓰는 C-only는 기본 정책 성능의 대부분을 유지했고, 같은 수의 무작위 토큰을 주는 Random matched는 성공률이 훨씬 크게 떨어졌다. 표 2의 정확한 성공률 숫자는 본문에 제시되지 않았다.

개발자 관점에서 이 논문은 로봇 데모로 월드 모델이나 행동 정책을 후학습할 때, 장면 예측에 필요한 표현과 행동을 유발하는 표현을 분리하는 설계를 참고할 만하다. 사전학습 WAM의 월드 모델링 손실을 바꾸지 않고 행동 헤드에 희소 라우터를 붙이는 방식이라 적용 비용이 상대적으로 낮고, 배경·집기·테이블보 같은 방해 요소가 많은 데이터에서 폐루프 성공률을 점검하는 데 유용하다. 다만 실무에서는 라우팅 토큰이 실제 조작 대상과 목표에 정렬되는지, 같은 수의 무작위 토큰과 비교했을 때 성능 차이가 나는지, 숨은 환경 변화에서도 C_t가 방해 변수를 섞지 않는지 확인해야 한다. 저자들이 밝힌 한계는 개별 잠재변수 단위의 성분별 식별이 아니라는 점이다. 즉 행동 관련 블록을 가역적으로 분리할 뿐, 각 잠재변수를 정밀하게 특정하지는 못한다. 또한 이론은 미분가능성·양의 밀도·비퇴화 조건·지원 희소성·경로별 결합에 의존하고, 실제 구현의 top-k 라우팅 손실은 L0 지원 희소성의 근사다.