AtomTree는 상태를 반영해 계획을 트리로 쪼개고 실패하면 상위로 되돌아간다
AtomTree: A Hierarchical Framework for State-Aware Embodied Instruction Following with LLMs
무엇인가
이 논문은 ALFRED의 장기 가사 지시 수행에서 실패 원인이 저수준 내비게이션·인식·상호작용만이 아니라 고수준 계획 오류로 옮겨갔다고 진단한다. 저자들은 FLARE류 few-shot 플래너를 Valid Seen에서 오류 분석해 PDDL 계획 길이가 7 이하일 때 계획 오류 38.9%, 상호작용 오류 35.2%였지만 길이가 7을 넘으면 계획 오류가 68.7%로 지배적이 된다고 보고한다. PDDL 길이 5에서 15로 늘 때 전체 실패 중 계획 오류 비율이 약 50%에서 거의 100%까지 오르고 상관계수 r=0.8892, p≈2.1×10^-5였다는 점도 제시한다. 즉 긴 작업에서는 한 번에 만든 순차 계획이 상태 변화와 어긋나며 오류가 누적되는 것이 핵심 병목이라는 주장이다.
어떻게 동작하나
AtomTree는 목표를 루트로 두고 하위 목표와 행동을 트리로 점진 확장한다. 현재 활성 노드 v의 하위 목표 g(v)에 대해 LLM 정책 π(y|s_t,g(v),m_t)를 호출해 다음 결정을 받는다. 상태 s_t는 손에 든 객체 h_t와 현재 1인칭 시야에서 검출된 객체 이름 집합 V_t로 압축되고, 기억 m_t는 지금까지 본 객체 집합 S_t와 Find(Apple):0, Navigation(Table):1처럼 원자 행동 호출과 결과를 담은 이력 H_t로 구성된다. 전체 원시 상호작용 로그를 넣지 않고 짧은 기호 목록만 LLM에 전달한다.
무엇과 다른가
각 결정은 두 형태다. Decompose를 고르면 현재 목표를 순서 있는 하위 목표 목록으로 쪼개 자식 노드를 만들고, Execute를 고르면 Decompose를 제외한 고수준 원자 행동 하나를 출력한다. 행동 공간은 Navigation과 Find, 그리고 PickupObject, PutObject, OpenObject, CloseObject, ToggleOnObject, ToggleOffObject, SliceObject, HeatObject, CleanObject, CoolObject다. 선택된 행동은 A*와 Fast Marching Method 기반 지도 내비게이션, 규칙 기반 상호작용 실행기를 포함한 결정론적 저수준 컨트롤러로 내려가 실행된다. 이때 저수준 실행은 원래 지시문이 아니라 고수준 계획과 환경에 조건화된다.
어떻게 쓰나
실패나 정체가 나면 단순히 그 행동만 다시 시도하지 않는다. 저수준 컨트롤러가 r_v=0을 반환하거나 주어진 예산 안에서 멈추면 부모 노드 u로 돌아가 최신 상태와 기억으로 g(u)를 다시 결정하고, 새로 만든 하위 트리로 이전 시도를 대체한다. 예를 들어 '하얀 테이블'이라는 표현이 환경 온톨로지에 없고 DiningTable만 있을 때, 처음에는 테이블 참조를 확정하지 않은 목표를 두었다가 S_t에 DiningTable이 쌓이면 이를 근거로 Navigation(DiningTable)과 PutObject를 생성한다. Find(Apple)이 실패하면 부모로 올라가 Cabinet이나 Drawer를 열어보는 검색을 하위 계획에 넣은 뒤 원래 목표로 복귀한다.
전제와 한계
실험은 ALFRED의 Valid Seen 820, Valid Unseen 821, Test Seen 1,533, Test Unseen 1,529개 에피소드에서 진행됐고, 베이스 LLM은 DeepSeek-V3다. 학습은 하지 않는 제로샷이며 프롬프트에 출력 형식을 제한하는 소수 예시만 넣고 ALFRED 궤적이나 언어 주석으로 학습하지 않는다. 성공률 SR과 목표 조건 충족률 GC를 보고했는데, 기존 최강 제로샷 베이스라인 Socratic-Planner 대비 SR이 Valid Seen 18.78에서 40.97, Valid Unseen 15.35에서 42.39, Test Seen 18.66에서 39.92, Test Unseen 13.47에서 41.20으로 올랐다. few-shot LLM 플래너 FLARE와 비교해도 Test Seen 31.96에서 39.92, Test Unseen 32.57에서 41.20으로 앞선다. FILM과 MCR-Agent 같은 일부 지도학습 방법은 크게 넘고 Prompter, CAPEAM에는 특히 보지 못한 장면에서 가깝게 따라붙는다.
절제 실험은 ReAct식 반응형 베이스라인에서 시작해 세 요소를 더한다. 계층적 계획은 Decompose 행동과 하위 목표 트리로 첫 개선을 만들고, 상태·이력 기억은 완료한 행동을 잊고 반복 예측에 빠지는 문제를 막아 가장 큰 개선을 준다. 계층적 백트래킹 재계획은 실패 후 하위 트리를 최신 상태와 기억으로 고쳐 추가 이득을 준다. 정성 분석에서는 '씻은 상추를 냉장고에 넣기'에서 기억이 없으면 이미 씻었는지 판단하지 못해 세척 하위 목표를 다시 만들고 루프에 빠질 수 있지만, AtomTree는 완료 이력을 기록해 냉장고로 이동하는 다음 목표로 넘어간다고 설명한다.
개발자 관점에서 이 방법은 상징적 상태와 결정론적 저수준 컨트롤러가 있는 에이전트의 장기 계획 루프에 바로 참고할 수 있다. 매 스텝 LLM을 호출하므로 비용과 지연을 확인해야 하고, 상태를 손에 든 객체와 시야 내 객체 이름, 짧은 행동 이력으로 압축하는 설계가 실제 환경의 관측을 충분히 반영하는지 검증해야 한다. 또한 Decompose 출력이 실제 행동 공간과 환경 온톨로지에 맞게 내려오는지, 백트래킹이 무한 재시도로 변하지 않도록 정지 예산을 어떻게 둘지 확인할 필요가 있다.
저자들이 명시한 범위와 전제도 분명하다. ALFRED와 AI2-THOR 안에서만 평가했고, 단계별 지시 목록 I_L은 버리고 고수준 목표 I_H만 사용한다. 제로샷이라고 부르지만 출력 형식을 잡기 위한 소수 예시는 프롬프트에 포함하며, 실험은 DeepSeek-V3 한 모델에 한정된다. 상태는 손에 든 객체와 1인칭 시야에서 검출된 객체 이름, 기억은 본 객체와 행동 결과의 기호 목록으로 제한되어 부분 관측 아래에서 요약의 질에 의존한다. FlowPlan처럼 단계별 지시를 요구하는 설정은 비교표에서 제외했고, ALFRED의 최신 방법 성공률 자체가 50% 아래라는 점도 논문이 전제하는 난이도다.