능력 요구사항으로 작업을 묶어 멀티모달 에이전트 하네스를 재귀 진화시킨다

무엇인가

이 논문이 다루는 문제는 멀티모달 에이전트의 성능이 모델 자체보다 하네스(Harness)에 점점 더 많이 좌우된다는 것이다. 여기서 하네스는 고정된 모델을 감싸며 여섯 개의 제어 흐름 프로토콜로 실행을 조율하는 구성 φ를 뜻한다. 즉 지각(Π_er), 메모리(M), 추론(I), 플래닝(P), 오케스트레이션(F), 루프(L)로 이루어진 튜플이며, 기준이 되는 Base Harness가 H_0다. 저자들은 이 루프를 확장하는 데 두 가지 병목이 있다고 본다. 서로 다른 모달리티의 검증 가능한 환경을 사람이 직접 만드는 비용이 크고, 작업 다양성과 복잡도가 커지는 속도를 수동 하네스 반복이 따라가지 못한다. 게다가 기존의 하네스 재귀 자기개선(RSI) 연구는 코딩·수학 같은 텍스트 작업에 치우쳐 작업별로 진화하는 방식이라, 이질적인 작업 집합에서는 과적합과 일반화 실패로 이어진다.

어떻게 동작하나

핵심 통찰은 모달리티와 표면 형태가 다른 작업도 기저의 능력 요구사항은 공유할 수 있다는 것이다. 논문은 ARC-AGI-3와 Micromouse를 예로 든다. 전자는 격자 상태와 그 변화를 인식해야 하고 후자는 미로 탐색 중 환경 정보를 계속 갱신해야 하지만, 둘 다 정확한 지각과 상태 추적이라는 같은 능력을 요구한다. 그래서 저자들은 작업 구동(task-driven)에서 능력 구동(capability-driven)으로 자기개선의 축을 옮기자고 주장한다. 이를 실행하는 프레임워크가 The Trinity이고, Creator·Explorer·Evolver 세 역할이 환경 생성과 하네스 진화를 맞물리게 한다.

무엇과 다른가

절차는 세 단계다. 먼저 Evolver가 공개 멀티모달 벤치마크를 목표·관측·행동·피드백·완료 기준·예산의 명세로 정규화하고, 규칙 발견, 제약 있는 문제 해결, 지각과 제어, 멀티에이전트 상호작용, 장기 지평 환경이라는 다섯 요구 도메인으로 묶는다. 학습/미학습 분할은 능력 귀납 이전에 고정된다. 다음으로 각 학습 과제에 요구사항 집합 K_τ를 부여하고, 미리 정한 결정적 능력 순서 ≺로 정렬한 뒤 그 접두사들을 트라이(Trie)로 병합해 계층적 능력 트리를 만든다. 같은 노드에 모인 이질적 작업들은 학습 목표를 공유하므로, Creator가 그 공통 요구를 단순화되고 검증 가능한 시뮬레이션 월드로 추상화한다. 이때 대상 과제의 레이아웃, 비공개 증명, 풀이 궤적은 제외하고 핵심 의사결정 과정만 보존하며, Evolver의 검증기 풀이 노드 바인딩·실행·상태 전이·렌더링·완료를 확인한다. Explorer는 고정된 스크리닝 하네스로 이 월드를 시험해 미리 정한 중간 성능 구간에 드는 것만 통과시키고, 아니면 Creator가 난이도를 조정한다. 마지막으로 Explorer가 능력 트리를 따라 하네스 트리를 만든다. 각 노드는 부모 모듈을 선택적으로 상속하고(로컬 모듈이 우선하는 우측 편향 합집합), 부모 갱신은 동일 검증 조건에서 호스트가 검증한 과제 완료 수가 엄격히 높을 때만 채택되며 아니면 이전 레지스트리를 유지한다. 각 반복이 끝나면 Creator가 검증된 제안들을 기존 Base Harness와 통합해 상보적 모듈은 병합하고 근접 중복은 먼저 학습된 것을 남긴다. 이렇게 갈라진 하네스들이 서로 다른 능력에 특화되므로, 공개 과제 정보와 검증된 실행 경험을 이용해 가지를 고르는 Capability-Aware Harness Router가 붙는다.

어떻게 쓰나

실험은 28개 학습 벤치마크와 18개 미학습 벤치마크에서 진행됐고, 모든 변형이 Base Harness(Prime Agent)와 고정된 Claude Opus 5 백본을 공유한다. 점수는 벤치마크별 지표를 0~100으로 환산해 동등 평균한 값이다. 조직 방식 비교에서 여섯 개의 평평한 능력 그룹으로 나눈 Capability-Domain은 학습 토큰을 136.94M으로 가장 적게 쓰면서 Train/Unseen 49.25/39.43을 기록했고, 접두사 기반 계층과 선택적 상속을 쓰는 Capability Tree(Real)는 여기서 4.19/2.88점을 더 얻었다. 검증된 합성 월드를 쓰는 Capability Tree(Sim)는 3.51/4.95점을 추가해 모듈만 쓴 조건 중 최고인 56.95/47.26에 도달했고 추론 비용도 514.42M/549.07M으로 가장 낮았다. 대신 첫 반복 학습 비용은 405.70M으로 Real의 211.56M, Task-Domain의 278.25M보다 컸는데, 이는 Creator의 환경 구축비가 초기에 지배적이기 때문이며 이후 반복에서 월드를 재사용하면 상각된다.

전제와 한계

재귀 자기개선은 반복 0에서 4까지 Train 39.1→73.2, Unseen 42.1→64.1로 이어졌다. 첫 반복의 이득이 가장 크지만 2~4회차가 Train 9.4점, Unseen 6.4점을 더 얹었다. 벤치마크별 편차도 보고되는데 ARC-AGI-3는 41.0→53.6, SciGym은 45.2→57.1, BuildArena는 93.3→97.8로 올랐고 Mastermind는 88.9에 머물렀으며 Eleusis는 82.2→81.1로 오히려 내려갔다. 최종 Unseen 평균은 Codex 47.5와 DeepSeek 46.2 참조를 웃돌지만 Crafter와 DiG-bench는 두 비교군보다 낮다. 라우팅에서는 완전한 Self-Routing이 Train 71.27, Unseen 60.96으로, 사후 최적을 고른 Oracle의 73.16/63.61에 근접했다.

능력-모듈 관계도 정량화한다. 4회차 기준 29개 모듈의 상관에서 지각·상태추적은 메모리(0.306), 가설·대응물 추론은 추론(0.744), 제약 확인·피드백 수선은 플래닝(0.274), 목표 몰입·가치 절충은 루프(0.444), 영상 증거 획득은 지각(0.347)과 가장 강하게 붙었다. 개입 실험에서는 관련 모듈 하나를 Base에 더하면 39.06→58.45(+19.39)로 뛴 반면 무관한 모듈은 40.08(+1.02)에 그쳤고, 4회차 하네스에서 관련 모듈 하나를 빼면 73.16→70.42(−2.74)로 떨어지면서 토큰은 496.70M에서 517.26M으로 늘었다. 실물 전이도 확인된다. 능력 요구에 따라 두 임체 과제를 d→a 노드에 매핑해 그곳에서 진화한 하네스를 적용한 결과, SOON은 시뮬레이션 0→80%, 실제 로봇 0→60%, CaP-X는 10→60%, 0→60%로 개선됐다.

개발자 관점에서 이 논문의 쓸모는 파인튜닝 없이 에이전트 성능을 올리는 경로를 구체적인 운영 절차로 제시한다는 데 있다. 벤치마크를 표면 카테고리가 아니라 요구 능력 단위로 다시 묶고, 그 단위마다 값싼 검증 가능 시뮬레이터를 만들어 학습 신호를 뽑고, 원본 과제로 전이를 측정하는 흐름은 사내 에이전트 평가셋을 재편할 때 그대로 참고할 수 있다. 다만 하네스 갱신을 채택하는 기준이 호스트 검증 과제 완료 수라는 점, 상속 충돌에서 로컬 우선 규칙을 쓴다는 점은 자신의 파이프라인에 맞게 바꿔야 할 설계 결정이다. 또 하나 주의할 것은 성능 향상이 능력 트리 토폴로지와 학습/미학습 분할을 고정한 상태에서 측정됐다는 점이다.

저자들이 밝힌 한계는 두 가지다. 첫째, 벤치마크 발굴에 웹 검색을 쓰기 때문에 질의에 따라 검색 커버리지와 결과 품질이 달라질 수 있다. 둘째, 현재 연구는 하네스 수준의 자기개선에 주로 초점을 맞추고 있어 모델 파라미터 학습은 다루지 않는다. 향후 과제로는 새로운 능력 요구를 포착하도록 능력 트리를 동적으로 확장하는 것과, 이 패러다임을 파라미터 학습까지 넓혀 능력 인식 라우팅과 RSI가 능력 발견·습득·정교화를 함께 돌리는 폐루프를 만드는 것을 제시한다.