가중치는 그대로 두고 에이전트 하네스만 스스로 진화시키는 프레임워크

arXiv에 공개된 논문 "Self-Evolving Agent Harness"는 에이전트를 둘러싼 소프트웨어 골격, 즉 하네스 자체를 스스로 개정해 나가는 과정을 하나의 형식적 절차로 정리한다. 여기서 말하는 하네스는 프롬프트, 메모리, 워크플로, 그리고 실제로 실행되는 컴포넌트까지 포함한다. 핵심 전제는 모델 가중치는 손대지 않는다는 것이다. 대신 실행 결과에서 나온 피드백을 바탕으로 수정안을 만들고, 채택된 수정은 이후 실행에도 계속 남아 누적된다.

논문은 Chuyang Wei를 비롯한 8명의 저자가 썼고, cs.AI와 cs.CL 분류로 등록됐다. 관련 연구, 이론, 알고리즘, 평가, 응용, 그리고 하네스 RSI가 갖는 광범위한 영향을 아우르는 66페이지 분량이며, 코드와 부속 자료는 계속 갱신된다고 명시돼 있다.

프레임워크의 골격에서 눈에 띄는 부분은 '무엇을 바꿀 것인가'와 '누가 어떻게 제안하고 승인할 것인가'를 분리했다는 점이다. 개정 대상도 한 덩어리로 다루지 않는다. 해석된 상태에 대한 변경과 도구·코드 수정, 저장소 수준의 제어 로직, 플러그인 조합을 각각 다른 층위로 구분한다. 실행 중에 읽히는 값이 바뀌는 것과 실행 자체가 바뀌는 것은 위험도가 전혀 다르기 때문이다.

이론적 분석은 두 축으로 진행된다. 하나는 하네스 개정 탐색을 진화 최적화 문제로 특성화하는 것이고, 다른 하나는 continual PAC-learning 관점에서 그 신뢰성을 따지는 것이다. 명시적인 가정을 깔면 기대 일반화 바운드가 도출되고, 과거 회귀 예산에 조건을 건 보존 바운드도 얻어진다. 새롭고 독립적인 검증 데이터를 사용하는 고확률 승인 규칙 역시 이 분석에서 나온다.

배경에는 모델 가중치를 고정한 상태에서도 성능을 끌어올릴 여지가 하네스에 상당히 남아 있다는 문제의식이 있다. 재귀적 자기 개선(RSI) 논의가 모델 자체의 개선에 집중돼 온 것과 달리, 이 논문은 모델 바깥의 레이어를 개선 대상으로 삼는다. 선행 연구에서 가져온 사례로는 모델과 하네스를 함께 설계하는 방식, 분산 실행, 플러그인 재사용 등이 제시된다.

실무 개발자에게 이 논문이 던지는 변화는 프롬프트와 메모리, 툴 레이어를 더 이상 일회성 튜닝 대상으로 보지 않게 만든다는 점이다. 이 레이어가 실행마다 누적되는 개정 이력을 갖게 되면 버전 관리와 회귀 테스트, 승인 절차가 필요해진다. 논문이 제시하는 승인 규칙과 회귀 예산 개념은 개선을 자동화하면서도 기존에 잘 되던 동작이 조용히 망가지는 일을 막는 장치로 읽힌다.

논문은 개정이 한 번 채택되면 계속 남는다는 성질이 기술 문제로 끝나지 않는다고 본다. 하네스가 조직 안에서 공유되고 재사용되면 지식 공유 방식과 워크플로 자체가 달라지고, 이는 과학적 신뢰성, 물리적 안전, 제도적 책임 소재와도 연결된다는 것이다.

주의할 지점도 분명하다. 제시된 바운드와 승인 규칙은 모두 명시적 가정 위에서만 성립한다. 태스크 분포와 평가자가 바뀌면 검증을 계속 다시 해야 하며, 학습 과정과 런타임 권한, 그리고 중대한 결과를 낳는 행동에는 별도의 독립적인 안전장치가 필요하다고 논문은 못 박는다.