에이전트 검색의 병목은 검색이 아니라 컨텍스트 공급이다

무엇인가

이 논문이 푸는 문제는 검색 정확도가 아니라 검색 과정에서 새는 컨텍스트다. 저자들은 에이전트형 RAG에서 검색을 소유하는 구성 요소를 '검색 하네스(harness)'라 부르고, 하네스가 질의를 쓰고 결과를 읽고 재작성하고 멈출 시점을 정하는 구조에서는 고전적 검색 지표(청킹, 임베딩, Recall@k)가 더 이상 병목이 아니라고 말한다. 실제로 이들의 실행에서 BM25와 grep만 가진 하네스가 MiniMax M3와 결합해 BrowseComp-Plus 85%, 멀티홉 FRAMES 91%를 컴파일 인덱스도 벡터 인덱스도 없이 달성했다(두 벤치마크 수치는 서로 비교 대상이 아니다). 문제는 그 다음이다. 규율 없는 루프는 같은 질의를 반복하고, 같은 문서를 다시 읽고, 쓰이지 않을 구절로 윈도를 채운다. 이 논문에는 벡터 인덱스가 아예 없는데, 이는 미학이 아니라 경험적 판단이다. 하네스 안에서 에이전트가 이미 의미적 재작성을 수행하므로 dense 레그는 새로운 신호를 주지 않고, 신뢰하는 어휘 기반 랭킹과 경쟁하는 두 번째 랭킹만 추가하며, 저자들의 실행에서는 정확도를 오히려 낮췄다.

어떻게 동작하나

제안하는 것은 '지식 컴파일(knowledge compilation)'이라는 질의 독립적 변환 계층이다. κ: D → A로 표기되는 이 변환은 코퍼스를 타입이 있고 버전이 붙은 산출물 집합으로 바꾸며, 각 산출물은 원문의 정확한 스팬까지 계보 링크를 보존한다. 파이프라인은 여섯 단계로, 파싱(헤딩·리스트·표·페이지 앵커 보존) → 자연 경계 청킹 → 강화(모델이 문맥과 함께 청크를 읽고 산출물 생성, 추출기로 glm-4-flash 사용) → 검증(근거 스팬이 원문에 실제로 존재하는지, 엔티티 타입·날짜·스키마가 맞는지 확인하고 어긋난 단위는 고치지 않고 버린다) → 조립(주장을 캐리어 트리로 클러스터링, 엔티티를 그래프로, 이벤트를 타임라인으로) → 등록(소스 버전, 오프셋, 추출기 버전, 검증 상태, 접근제어 라벨 저장)이다. 이 단계 조합이 템플릿이 되어 Tree, Graph, Ontology, Wiki, Timeline, Mind-map, Memory가 파서·검증기·레지스트리를 공유한다. 중요한 규칙이 하나 붙는다. 원본 채널과 파생 채널은 분리되어, 파생 산출물은 읽기 전용이고 절대 소스로 되써지지 않는다. 생성된 요약이 다음 세대의 '원문'이 되는 전형적 실패를 막기 위한 전제다.

무엇과 다른가

가장 눈에 띄는 것은 부정적 결과다. 저자들은 컴파일이 '더 나은 검색기'가 아니라고 못 박는다. 유능한 하네스 아래에서 RAPTOR식 요약 트리, PageIndex식 아웃라인, LLM 위키, 엔티티-관계 그래프는 FRAMES에서 감지 가능한 정확도 향상을 주지 않았고, PageIndex 스타일 목차 인덱스는 FRAMES 규모에서 오히려 부채가 됐다. 구조는 추가 증거가 아니라는 것이다. 그래서 이 논문이 측정 가능한 메커니즘은 구조가 아니라 주장-근거 쌍(claim-evidence pair)이다. 단위는 u = ⟨c, e, s, τ⟩로, c는 정규화된 주장, e는 그 주장을 뒷받침하는 원문 그대로의 근거 스팬, s는 소스 청크와 문자 오프셋, τ는 문서 시각 같은 유효성 메타데이터다. 근거 스팬을 찾을 수 없는 주장은 저장하지 않으므로 모든 단위가 검증·인용·감사 가능하다. 서빙 방식은 세 가지다. E1은 근거 인덱스를 어휘 검색으로 직접 때리는 방식이고, E2는 기본값으로 하네스가 원문을 검색하되 청크가 국소화되면 모델에 들어가기 전에 그 청크를 주장-근거 쌍으로 치환하는 방식이며, E3은 경량 결정 모델이 깊은 읽기가 필요한지 판단하는 방식이다(리랭커가 아니라 읽기 깊이를 제어한다). 주장 검색 절제 실험에서 앵커 깊이를 10에서 20청크로 늘리면 히트가 늘었고 30은 추가 이득이 없었으며, 청크 앵커 레그와 주장 텍스트 레그의 합집합이 필수였다. 최종 설정은 topN=20, k=100, 두 레그의 합집합, 개수 기반 절단 없음이다. 16·32 같은 고정 페이지 상한은 관련 주장이 늦게 등장해 잘려나가 리콜을 떨어뜨렸다.

어떻게 쓰나

비용 모델이 이 논문의 핵심 경제 논리다. 미해결 하네스의 질의 토큰 비용을 T0라 할 때, 게이트 수용률 p_h에 대해 적중 시 -91%, 실패 시 +1.9%가 측정됐다. 기대 변화는 E[Δ] = 0.019 - 0.929·p_h이므로 컴파일이 토큰으로 본전을 뽑는 손익분기 충분성 비율은 약 2.0%다. 측정된 FRAMES 평균 -38%는 역산하면 p_h ≈ 43%에 해당한다. 상각 규칙도 제시된다. 컴파일 비용이 질의 환산 c라면 손익분기 질의 수는 N* ≈ 2.6c로, 컴파일이 질의 10회분인 코퍼스는 약 26회 질의 후 회수된다. 다만 2%는 무한 지평의 이야기이고, 유한 배포에서는 p_h > 2.0% + c/(0.929·Q)라는 더 엄격한 조건이 붙는다. Q=1,000, c=10이면 2%가 아니라 3.12%가 필요하고, 측정치 2.5%라면 여전히 5.8 질의 환산만큼 손해다. 점근 규칙은 컴파일하라고 말하고 유한 규칙은 하지 말라고 말하는 구간이 존재한다. 민감도 분석에 따르면 이 손익분기율은 적중 시 절감폭보다 실패 페널티의 불확실성에 훨씬 크게 좌우되므로, 팀이 정밀하게 측정해야 하는 값은 '성공했을 때 얼마나 아끼는가'가 아니라 '투영이 실패하는 빈도'다.

전제와 한계

토큰 절감은 공짜가 아니다. 두 팔 모두 답한 7개 질문의 쌍체 비교에서 주장 페이지는 질의 토큰을 대략 절반으로 줄였지만 종단 지연은 대략 세 배로 늘었다. 원인은 프롬프트 크기가 아니라 턴 수다. 더 작은 증거 조각을 담은 페이지는 수렴까지 더 많은 검색 라운드를 요구한다. 즉 증거 치환은 토큰을 턴으로 사는 거래다. 결정 게이트는 이때 평균 종단 지연을 140초에서 30초로 줄였고, 게이트 팔은 미컴파일 베이스라인 대비 토큰 -52%를 보였다. 증거가 없을 때 같은 게이트는 답을 바꾸지 않는 깊은 읽기를 거절해 토큰을 약 30% 줄였다. 저자들은 여기서 한 가지 경고를 덧붙인다. 게이트가 산출하는 것은 수용률이지 정답 가능성이 아니다. 43%를 수용하는 게이트가 대부분 옳을 수도 있고, 유창하지만 무관한 블록을 통과시키고 있을 수도 있다. 이들은 오수용률 φ를 식 φ = (a_T - a_A)/(a_T - a_F)로 1차 추정하는 방법과, 수용된 질의 100~400개를 라벨링하는 최소 감사를 설계했지만 벤치마크 규모에서는 실행하지 않았고 φ 값을 보고하지 않는다.

나머지 산출물들은 정확도 벤치마크가 아니라 배포 원장에서 값을 낸다. 온톨로지는 거버넌스와 권한 규칙, 그래프는 교차 소스 통합, 위키는 합성과 온보딩, 타임라인은 시간적 방향성, 멀티맵은 문서 내 엔티티 탐색, 메모리는 세션 간 연속성에 대응한다. 예컨대 그래프는 GraphRAG식 커뮤니티 인덱스가 아니라 질의 시점에 그래프 위 PageRank로 청크를 랭킹하고 그 청크의 주장-근거 쌍을 먼저 가져오는 방식으로 쓰여, 원문을 읽는 비용 없이 관련 자료의 리콜을 올린다. FRAMES가 이를 보상하지 않은 이유는 벤치마크가 이미 엔티티로 연결된 증거를 제공하기 때문이다. 이 모든 것을 묶어 저자들이 제안하는 개념이 '에이전트 네이티브 데이터베이스', 즉 랭킹된 구절 목록 대신 컴파일되고 거버넌스된 컨텍스트를 에이전트에게 건네는 저장소다. 관계형 DB도 아니고 새로운 검색 패러다임도 아니며, 질의 언어도 스키마 강제도 없고 무엇을 읽을지는 저장소가 아니라 하네스가 정한다.

한계는 저자들이 스스로 명시한다. 측정치는 하나의 벤치마크와 하나의 컴파일러 모델에서 나온 기술적 집계이며, 신뢰구간도 반복 시드도 없다. 91%/1.9%라는 양 끝값은 모집단 추정치가 아니라 측정된 운용점이다. FRAMES는 영어 위키백과 기반이라 표·스캔·전문용어가 섞인 기업 코퍼스에서는 추출 품질이 떨어져 실패율이 올라가고 절감폭이 줄 수 있다. PageIndex 성능 저하는 FRAMES 규모에서의 관찰이지 일반 법칙이 아니고, 75% 라우팅 수치는 측정된 스케일 스윕이 아니라 해석적 모델이다. 배포 지표들은 통제된 효과가 아니라 계측된 프로덕션 측정을 위해 정의된 것이다. 실무 관점에서 이 논문이 주는 판단 기준은 명확하다. 검색 정확도를 청킹·임베딩으로 밀어붙이기 전에 하네스가 이미 충분한지 확인하고, 컴파일을 도입한다면 구조가 아니라 근거를 컴파일하며, 손익분기 2%라는 점근값 대신 자신의 질의 지평 Q와 컴파일 비용 c로 계산한 유한 조건을 쓰고, 마지막으로 지연 예산을 다섯 번째 변수로 명시해야 한다는 것이다.