긴 문맥 검색을 주소 공간의 지속적 순회로 재구성한다

무엇인가

긴 문맥 모델은 매 forward pass마다 서로 비슷한 검색 문제를 다시 푼다. 어텐션이나 전역 검색은 큰 저장소를 유지할 수 있지만 매번 무엇이 중요한지 다시 찾아야 하고, 순환 압축(recurrent compression)은 그 탐색을 피하는 대신 미래에 무엇이 필요할지 미리 결정해 버린다. 저자들은 두 방식 모두 인접한 검색 스텝에서 유용한 메모리들이 크게 겹칠 수 있다는 점, 즉 '반복'이라는 세 번째 비용 원천을 활용하지 못한다고 지적한다. 이 논문은 검색을 매번 새로 하는 전역 매칭이 아니라 주소 공간을 통한 지속적 국소 순회로 재정의하자고 제안한다.

어떻게 동작하나

핵심은 메모리의 내용과 주소를 분리하는 것이다. t 시점의 외부 메모리 j는 관측되지 않은 확률변수 M_j(내용)와, 그 메모리가 쓰인 문맥으로부터 계산되는 주소 z_j = Φ(C_j^w) ∈ R^R로 나뉜다. 검색은 문맥 C_j^w가 아니라 내용 m_j를 작업 문맥에 삽입한다. 집합 S를 검색했을 때의 정보 가치는 V(S;c) = E[U(c⊕M_S) − U(c) | C_t = c]로 정의되는데, 이 식에 주소는 등장하지 않는다. 기하(geometry)는 어떤 내용에 값싸게 도달할 수 있는지만 결정하고, 내용의 가치는 내용 자체가 결정한다는 분리다. 논문은 이론 전개를 위해 추가 정보가 기대 효용을 떨어뜨리지 않는다는 자유 처분(free disposal) 가정을 둔다.

무엇과 다른가

주소 x에서 국소적으로 접근 가능한 메모리 집합을 B_ε(x)라 하고, 문맥 c를 Φ(c)로 매핑해 얻는 검색 집합을 N_c(Φ)라 하자. 정보 손실만 최소화하는 순진한 목적식은 모든 문맥과 메모리를 한 점에 매핑하면 모든 공이 전체 저장소를 담게 되어 손실이 0이 되는 자명해를 갖는다. 그래서 접근 가능하게 만든 메모리마다 비용 λ를 부과하는 비용 정규화 목적식 L_λ(Φ) = E[V(Ω_t, C_t) − V(N_{C_t}(Φ), C_t) + λ|N_{C_t}(Φ)|]를 쓴다. 고정 문맥에서는 이 최소화가 J_λ(S;c) = V(S;c) − λ|S|의 최대화와 동치이므로, λ는 임의의 top-k 예산을 '가치 임계값'으로 대체한다. 어떤 메모리를 추가로 접근 가능하게 만드는 판단은 그 정보가 검색 비용을 정당화할 때만 성립한다.

어떻게 쓰나

메모리 j의 한계가치를 Δ_j(S;c) = V(S∪{j},c) − V(S,c), 두 메모리의 조건부 상호작용을 s_ij(S;c) = Δ_j(S∪{i},c) − Δ_j(S,c)로 정의하면 양수는 상보성, 음수는 중복성이다. 논문의 관찰 1은 J_λ(S∪{i,j},c) − J_λ(S∪{i},c) = Δ_j(S∪{i},c) − λ임을 보인다. 즉 i를 이미 가진 상태에서 j의 한계가치가 λ를 넘을 때만 함께 검색하는 것이 이득이다. 반대로 j가 i 이후에 완전히 중복이면 Δ_j = 0이 되어 둘 다 검색할 때 정확히 λ만큼 손해를 본다. 이 배제 압력 때문에 학습된 기하는 중복 대안들을 가능하면 따로 도달 가능하게 만들어야 하며, ‖z_i − z_j‖ > 2ε이면 어떤 ε-공에도 둘이 함께 들어가지 않는다(충분조건일 뿐 목적식이 요구하는 유일한 해는 아니다). 또한 모든 문맥·배경 집합에서 V(S∪{i}) = V(S∪{j}) = V(S∪{i,j})인 '값-동등 대체재'는 모든 집합 A에 대해 동일한 상호작용 프로파일을 가지므로, 중복 메모리는 같은 시너지 집합을 두고 경쟁한다.

전제와 한계

검색은 매 스텝 전역에서 다시 시작할 필요가 없다. 지속적 헤드 위치 i_t를 두고 M_t = B_ε(Φ(c_t)) ∪ B_ε(i_t), 작업 윈도 W_t를 최근 H 스텝 M_τ의 합집합으로 정의한다. 헤드 이동 규칙은 의도적으로 모듈식으로 남겨두어, 강화학습으로 학습하거나(본 실험 방식) 직전 forward pass에서 가장 가치 높은 메모리로 이동하는 식으로 확장할 수 있다. 비용 최적 검색 집합 S*_t의 한 스텝 드리프트 D_t = |S*_t ∖ S*_{t−1}|가 |S*_t|에 비해 작으면, 이전 검색 상태를 재사용하는 지속성이 이론적으로 도움이 된다.

실험은 의도적으로 약한 질문만 검증한다. MiniGrid Memory에서 에이전트는 단서를 보고 복도를 지나 T자 분기점에서 대응 물체를 고르며, Transformer-XL 백본과 PPO를 쓰고 행동은 (환경 행동, 메모리 헤드 이동) 두 성분으로 분해된다. 주소 공간은 학습하지 않고 환경의 공간·시간 좌표 Φ_0(C_j^w) = (x_j, y_j, t_j)로 고정했다. 컨텍스트 64의 고정 크기 과제로 헤드 없이 사전학습한 뒤, 단서가 결정 7~17 스텝 전에 놓이는 무작위 변형에서 컨텍스트 길이 5로 파인튜닝한다. 각 헤드 조건당 시드 6개, 축소 문맥 무헤드 베이스라인은 3개다. 결과는 시드 평균 학습곡선이 처음 0.95 리턴을 넘는 학습 스텝으로 측정했는데(일부 런은 예산 내에 도달하지 못해 시드별 임계 통과 시점의 평균은 쓰지 않음), 상대 이동이 0.59M 스텝, 가우시안 절대 주소가 0.94M, 카테고리컬 절대 주소가 2.0M 초과였다. 5개 토큰 문맥만으로 전체 문맥 참조에 가까운 궤적도 얻었다.

저자들이 밝힌 한계는 분명하다. 실험은 식 (5)로 Φ를 학습한 것이 아니라 환경이 제공한 기하를 쓴 것이고, 정보를 한 번만 검색하는 과제라 순차적 검색은 검증하지 않았다. 고정 차원 기하가 L_λ가 선호하는 검색 집합을 표현할 수 있는지도 미탐구다. 두 메모리가 어떤 문맥에서는 중복(s_ij<0)이고 다른 문맥에서는 상보적(s_ij>0)일 때, 최적의 Φ가 상보적인 문맥에서만 둘을 같은 ε-공에 넣도록 배치하는 것이 가능한지가 열린 문제다. 또한 헤드 이동 규칙이 Φ 구성과 같은 원리에서 유도되지 않은 임시방편이며, 손실식은 제시했지만 Φ를 어떻게 학습할지에 대한 절차는 상세히 논의하지 않았다. 더불어 축소 문맥 베이스라인이 예상보다 강했다는 음성 통제도 보고한다. 시간 인코딩이 있으면 단서에 따라 정해진 스텝만큼 기다렸다가 시계 상태를 읽어 단서를 행동에 인코딩하고, 시공간 인코딩을 제거하면 복도에서 반복 회전해 최근 궤적에 단서를 남긴다. 저자들은 이것이 정당한 해법이라 capability gap을 주장할 수 없고, 이번 결과는 학습·행동 효율성의 증거일 뿐이라고 못 박는다.

개발자 관점에서 이 논문의 쓸모는 두 가지다. 첫째, RAG나 에이전트 메모리에서 매 쿼리마다 전역 검색을 다시 하는 대신 이전 검색 상태를 이어가는 지속적 헤드라는 구조, 둘째, top-k 컷오프를 '추가 정보 가치 > 검색 비용 λ'라는 임계값 판단으로 바꾸고 중복 문서의 동시 검색을 목적식 수준에서 억제한다는 발상이다. 다만 이는 개념 증명이며, 가치 인덱싱(Φ 학습)과 반복 검색이라는 논문의 핵심 주장은 아직 실험적으로 검증되지 않았다는 점을 전제로 읽어야 한다.