Recursa는 도메인 자료와 자기 경험으로 지식 저장소를 재귀 개선한다

무엇인가

이 논문은 기초 모델이 훈련 때 보지 못한 새 도메인을 만났을 때, 대규모 전문가 데이터나 신뢰할 수 있는 감독 신호 없이 어떻게 적응할지를 다룬다. 저자들은 모델 하나를 다시 훈련하는 문제가 아니라 모델, 지시문, 스킬, 메모리, 하네스로 구성된 기초 모델 시스템 전체를 도메인 자료와 과제 경험으로 개선하는 기초 모델 시스템 학습을 제안한다. 여기에는 도메인의 사실·용어·자료 위치를 모르는 지식 격차와, 정보는 있지만 적용을 잘못하는 행동 격차가 있다. Recursa는 인간 전문가나 더 강한 교사 모델 없이 시스템 자체의 모델이 구성 요소와 학습 과정을 수정하는 재귀적 자기개선을 목표로 한다. 법률·금융처럼 지식이 흩어져 있고 정답 검증이 어려우며 긴 작업 궤적을 요구하는 영역을 주요 난제로 본다.

어떻게 동작하나

Recursa의 학습 대상은 지식 저장소다. 지식 저장소에는 매 단계 컨텍스트에 들어가는 시스템 프롬프트·가드레일 같은 지시문, 필요할 때 불러오는 절차적 지식 패키지인 스킬, 과거 과제 수행과 학습 경험에 대한 성찰을 담은 메모리가 포함된다. 하네스는 모델이 파이썬 코드로 행동하고 지속형 REPL에서 도구를 조합하며, 전체 상호작용 이력을 모델 컨텍스트 밖의 append-only 이벤트 로그에 두고 필요한 기록만 코드로 불러오게 한다. 또한 서브에이전트를 병렬로 파견해 큰 작업을 나눈다. 논문의 실험 설정에서는 하네스와 기초 모델은 고정하고 지식 저장소만 학습하며, 하네스와 모델 자체의 학습은 향후 과제로 남긴다.

무엇과 다른가

첫 단계인 부트스트래핑은 도메인 코퍼스에서 지식 저장소를 초기화한다. 큰 이질적 컬렉션에는 요약을 원문 위치와 연결하고 엔터티·문서 유형·상태·날짜 같은 메타데이터로 검색 범위를 좁히는 내비게이션 구조를 만들고, 좁고 잘 구조화된 영역에는 용어·관례·조사 지침을 담은 탐색 노트를 만든다. 각 항목은 출처 링크, 불확실성, 적용 범위를 남기며 자료의 경계와 결락도 기록한다. 큰 코퍼스는 여러 에이전트가 나누어 요약·매핑하고 조정 에이전트가 병합·출처 대조·후속 작업을 맡는다. 이어서 자료에 근거한 연습 과제를 스스로 생성해 풀고, 학습자가 시도와 근거·결정을 평가해 메모리에 성찰을 남기고 스킬을 갱신한다. 이렇게 초기 구성 요소 K(0)가 만들어진다.

어떻게 쓰나

재귀적 자기개선에서 솔버는 현재 구성 요소 K로 과제를 풀어 답과 실행 추적을 반환하고, 학습자는 솔버를 호출해 답·추적·피드백을 검사한 뒤 구성 요소 수정안을 만들고 검증한다. 말단 학습자는 해결, 진단, 편집, 검증을 반복한다. 진단에서는 실패 추적과 피드백을 읽어 실제 솔버 오류와 노이즈·모호한 피드백을 구분하고, 편집에서는 지시문과 스킬을 고치며, 검증에서는 영향을 받은 과제와 이미 통과한 표본을 다시 풀어 회귀가 없는 수정만 남긴다. 상위 학습자는 과제를 주제·실패 유형·개선할 스킬·연습할 도구 기준으로 나눠 자식 학습자에게 병렬 배정하고, 결과를 병합하며 중복 제거·충돌 조정·반복 교훈 일반화를 수행한다. 또한 자식 학습 추적을 읽어 개선되지 않은 하위집합과 충돌한 편집, 신뢰하기 어려운 피드백을 성찰한다. 논문은 대기로 인한 정지와 중복 작업을 학습 낭비로, 과제 피드백과 학습 과정 자체의 검증 결과를 학습 신호로 구분해 이 둘을 줄이고 활용하는 방법을 설명한다.

전제와 한계

실험은 Harvey LAB의 Firm Knowledge 벤치마크에서 진행됐다. 이 환경은 46개 가상 고객, 15개 실무 영역의 266개 사안, 9,288개 파일, 약 1억 800만 토큰으로 구성된 합성 로펌이다. 250개 과제를 Qwen3.8-27B의 학습 전 통과율로 층화해 150개 훈련, 100개 테스트로 나눴고, 30개 과제의 46개 기준은 과제문이나 원문과 충돌해 수정했다. 평가는 평균 기준 통과율과 모든 기준을 만족해야 하는 엄격한 all-pass율로 보고하며, 판정에는 Qwen3.8-Max를 사용했다. 학습 없이도 Recursa 하네스는 기존 베이스 에이전트와 공개 평가에서 가장 정확도가 높았던 Engram 설정보다 높은 점수를 냈다. 부트스트래핑은 14개 스킬을 만들었고 상호작용 턴과 입력 토큰을 대략 5분의 1에서 4분의 1로 줄였으며 all-pass율은 소폭 올렸지만 평균 기준 통과율은 그대로였다.

DeepSeek-V4.1-Flash에서는 부트스트랩 후 훈련 all-pass율 34.7%가 다중 학습자 구성 K(2)에서 48.7%가 됐고, 테스트 all-pass율은 학습 전 30.0%, 부트스트랩 후 33.0%, K(2) 후 55.0%로 학습 전 대비 25포인트 올랐다. 병합 구성 K(1)은 훈련 51.3%, 테스트 48.0%였다. Qwen3.8-Flash에서는 병합 구성 K(1)이 훈련 all-pass율을 37.3%에서 47.3%로, 테스트 all-pass율을 학습 전 35.0%, 부트스트랩 후 34.0%에서 46.0%로 올려 학습 전 대비 11포인트 개선했다. 단일 학습자 베이스라인은 더 낮았다. DeepSeek 단일 학습자 K(4)는 훈련 34.7%, 테스트 43.0%였고, Qwen 단일 학습자 K(5)는 훈련 30.0%, 테스트 37.0%로 부트스트랩 37.3%와 다중 학습자 46.0%에 못 미쳤다. 학습된 판단의 예로, 에이전트는 no-shop 조항을 Exclusivity와 No Solicitation 같은 표현까지 의미로 찾아갔고, IP 사안 정산 여부를 실무 그룹 기록으로 먼저 범위화해 부적절한 사안을 제외했다.

개발자에게 이 논문은 모델 가중치 재학습 없이도 코퍼스와 과제 피드백만으로 에이전트의 지식·행동을 시스템 수준에서 개선하는 패턴을 보여준다. 사내 법무·금융·기술 문서처럼 원문 코퍼스는 있지만 정답 라벨과 전문가 감독이 부족한 환경에서 지식 저장소, 출처 링크, 검증 표본, 병렬 학습자 구조를 참고할 수 있다. 다만 피드백이 노이즈할 수 있으므로 실제 오류와 모호한 평가를 분리하는 진단, 이미 통과한 과제를 포함한 회귀 검증, 병합 충돌과 과도한 분할로 인한 중복 조사를 관리해야 한다. 또한 저장소 항목의 출처·불확실성·적용 범위를 운영 정책으로 확인해야 한다.

저자들이 밝힌 한계는 분명하다. 성능은 도메인별 코퍼스의 품질과 가용성에 의존하며, 대규모 언어모델 추론과 훈련에 상당한 컴퓨팅 자원이 필요하다. 잘못되거나 편향된 데이터와 기초 모델의 결함이 학습 과정을 통해 전파될 수 있고, 학습 효과는 기초 모델의 능력에 좌우되지만 모델 한계의 영향을 충분히 조사하지 않았다. 실험도 제한된 도메인에 집중돼 모든 영역으로 일반화하기 어렵다. Recursa는 소프트웨어 환경을 자율 탐색하고 프로그램을 실행하며 관찰 정보를 메모리에 보존하므로 프라이버시·보안 위험이 있다. 실험은 네트워크 접근을 제한한 통제된 샌드박스에서 사전 다운로드한 공개 데이터로 수행됐다.