FlowState가 실행 상태를 장기 LLM 에이전트의 재사용 메모리로 만든다

무엇인가

이 논문은 장기 실행 LLM 에이전트가 이전 상호작용의 정보를 계속 활용해야 하지만, 전체 이력을 문맥에 넣으면 비용이 커지고 관련 정보가 묻히며, 압축하면 나중에 필요한 세부가 사라지는 문제를 다룬다. 또한 과거 정보의 관련성은 작업이 진행되면서 드러나므로, 저자들은 실행 상태 자체를 요청 간 보존·재방문 가능한 메모리로 쓰는 것을 핵심 질문으로 삼는다. 즉 현재 의사결정과 과거 정보 재사용을 하나의 표현으로 연결하자는 주장이다.

어떻게 동작하나

FlowState의 저장 구조는 세 층이다. Persistent State Repository는 이전 요청, 상태 노드, 노드 간 관계를 보관하고 각 노드에 출처 요청, 의미 식별자, 범주, 전체 내용을 기록한다. 새 상태가 참조한 도구 관찰 원문도 접근 가능한 상태 노드로 남긴다. Historical State Index는 모델 문맥에 들어가는 경량 색인으로, 이전 요청들의 상태 식별자와 짧은 요약만 담는다. Active State는 현재 요청에서 만든 상태와, 필요에 따라 공개된 과거 상태 및 관계를 담는다. 상태 유형은 사용자 선호·요구·제약, 환경 지식·속성, 에이전트 판단·산출물의 다섯 가지로 나뉜다. 핵심은 전체 저장과 문맥 노출을 분리하는 것이다.

무엇과 다른가

실행 루프에서 모델은 상태 델타, 접근할 과거 상태 집합, 실행 결정을 함께 낸다. Incremental State Update는 Add, Update, Remove 연산으로 현재 상태를 갱신하되 Update와 Remove는 현재 요청에서 만든 상태에만 적용하고, 실행 규칙으로 검증한 뒤 커밋한다. Progressive State Access는 색인 요약과 이미 공개된 관계를 보고 과거 상태를 지정하면, 검증 후 해당 상태의 내용과 관계를 공개한다. 관계는 유형과 대상 식별자만 알려 주고 대상의 전체 내용은 다음 단계에서 선택적으로 열게 한다. 공개된 정보는 다음 모델 호출부터 의사결정에 쓰이며, 필요한 경우 실행 결정을 비워 다음 단계로 미룰 수 있다. 요청이 끝나면 새 상태와 관계, 참조된 도구 원문을 저장소에 반영하고 색인을 다시 만든다.

어떻게 쓰나

실험은 MemoryArena의 Bundled Web Shopping, Group Travel Planning, Formal Reasoning(Math/Physics)과 τ3-Bench의 Airline, Retail에서 수행됐다. 비교 대상은 전체 문맥, ReasoningBank, BM25, Mem0, ZipAct, ZipAct+BM25이고 주 비교는 DeepSeek-V4-Flash를 쓴다. FlowState는 MemoryArena의 9개 성능 지표 중 8개에서 앞섰다. Bundled Web Shopping의 Progress Score는 42.89%로 가장 강한 메모리 시스템 베이스라인보다 11.78%포인트 높았고, Group Travel Planning은 12.57%로 최고 베이스라인보다 5.61%포인트 높았다. Math에서는 최고 PS, Physics에서는 최고 SR과 PS를 기록했다. 전체적으로 MemoryArena 평균 성공률은 전체 문맥 대비 4.55%포인트, τ3-Bench 평균 통과율은 13.95%포인트 높았고, 총 토큰 소비는 각각 43.2%와 40.6% 줄었다.

전제와 한계

τ3-Bench에서도 개선이 보고된다. 같은 DeepSeek-V4-Flash에서 Airline과 Retail의 통과율은 전체 문맥보다 각각 20.0%포인트, 7.9%포인트 높았고 DB 정확도는 7.5%포인트, 5.3%포인트 높았다. 토큰 소비는 61.2%, 22.2% 감소했다. 다만 Retail의 Action Accuracy는 4.9%포인트 낮아졌다. DeepSeek-V4-Flash, GPT-5.6-terra, Qwen3.5-397B-A17B 세 모델에서 모두 평균 SR과 PS가 높았고, 평균 상대 토큰 사용량은 28.3%에서 56.3% 낮았다.

절제 실험은 두 메커니즘의 역할을 보여 준다. PSA를 제거해 모든 과거 상태 내용을 Active State에 유지하면, FlowState는 두 환경 모두에서 더 적은 토큰을 쓰고 Group Travel Planning의 모든 성능 지표를 개선했다. Bundled Web Shopping에서는 PSA 제거 변형이 PS만 약간 높았지만 SR은 전체 모델보다 낮았다. ISU를 제거하고 하위 작업 경계에서 규칙으로 만든 상태 노드를 쓰면 두 환경 모두 SR이 0이 됐다. 장기 의존성 분석에서 FlowState는 Web Shopping과 Travel Planning의 보고된 모든 하위 작업 깊이에서 최고 정확도를 유지했고, Travel Planning의 후반 깊이에서는 대부분 베이스라인이 0에 가까워지는 반면 우위를 유지했다. 세 영역 모두 nAUC가 가장 높았고 Travel Planning과 Formal Reasoning에서는 하락률이 가장 낮았다.

개발자에게 이 논문은 장기 실행 에이전트의 메모리를 대화 이력 요약 하나로 처리하기보다, 의미 유형이 있는 상태 노드와 관계, 원문 증거 참조를 저장하고 문맥에는 색인 요약만 넣은 뒤 추론 중 필요한 상태만 펼치는 설계가 실무적으로 유효하다는 근거를 준다. 다만 저자들은 벤치마크 환경만 실험했고 실제 사용자 데이터나 실제 거래를 쓰지 않았다고 밝힌다. 또한 요청 간 정보를 보존하는 시스템은 민감 정보를 노출하거나 오래됐거나 틀린 가정을 후속 결정으로 끌고 갈 수 있으므로, 배포에는 데이터 접근·보존 통제, 정보 출처와 유효성 검사, 중대한 행동에 대한 안전장치가 필요하다고 명시한다. 논문의 벤치마크 평가만으로 배포 안전성이 입증되지는 않는다.