AI 에이전트가 합의 프로토콜 탐색을 돕지만 전문가 검증이 필요하다

The End of Consensus Research?

arXiv2610.30114v1

Clément Burgelin2026-10-21조회 1

무엇인가

이 논문은 분산 합의와 상태 머신 복제(SMR)에서 실용적인 저지연 합의 프로토콜을 AI가 발견할 수 있는지 묻는다. 합의는 복제 데이터베이스, 저장 시스템, 클라우드 조정 서비스, 블록체인의 기반이지만, 프로토콜 지식과 정확성 추론, 구현, 실험 평가를 동시에 요구하기 때문에 40년 넘게 연구되어도 실용적 저지연 해법은 여전히 열린 문제다. 저자들이 목표한 것은 프로세스 실패와 네트워크 비동기 구간을 견디면서, 실패가 없는 일반 경로에서 읽기 전용 명령은 가까운 복제본에서 완료되고 갱신 명령은 다수 복제본까지 한 번의 왕복으로 끝나는 SMR이다. 최근 AI가 수학·이론 전산학에서 보인 결과와 달리, 이 논문은 알고리즘 설계와 증명뿐 아니라 구현·배포·평가까지 AI 지원 작업에 포함한다.

어떻게 동작하나

핵심 도구는 AI-greement라는 에이전트 하네스다. 일반 코딩 에이전트에 합의 연구용 도메인 지원을 붙인 것으로, 첫째 개념 중심 프로토콜 지식베이스가 있다. 22편의 대표 합의 논문을 시스템 가정, 역할, 메시지, 로컬 상태, 정상 동작, 완료 조건, 복구 규칙, 안전성 논거의 공통 구조로 추출하고, 24개 합의 개념과 11개 설계 차원, 메커니즘 카드로 비교한다. 둘째 ConsensusArena라는 Go 기반 모듈형 구현 골격이 있다. Paxos, FastPaxos, EPaxos, SwiftPaxos, Bodega, CURP, KCensus 등 7개 베이스라인이 같은 런타임·클라이언트·벤치마크를 공유하고, 후보 프로토콜은 배포 계획, 클라이언트 정책, 프로토콜 코어만 채우면 된다. 구현되지 않은 컴포넌트는 명시적 오류를 반환해 기본 리더·쿼럼·커밋 규칙을 몰래 상속하지 못하게 한다. 셋째 Lean 기반 검증 프레임워크가 재사용 가능한 안전성 정의, 참조 명세, 증명 라이브러리를 제공하며, 선형화 가능성을 공통 증명 목표로 삼는다. 에이전트는 연구자·개발자·검증자 역할을 오가며 성능 측정과 장애 주입 피드백으로 후보를 반복 개선한다.

무엇과 다른가

이 하네스로 발견한 A-greement는 지리 복제 상태 머신을 위한 새 합의 프로토콜이다. PQL식 쿼럼 리스 기반 로컬 읽기, Bodega의 리더 측 쓰기 게이팅을 임의 복제본으로 일반화한 클라이언트 직접 학습, SwiftPaxos 스타일의 리더 없는 고정 쿼럼 키별 쓰기 경로를 결합한다. 자주 접근하는 키에는 지정된 완료 소유자가 쓰기가 진행 중인 동안에도 읽기를 계속 서비스하고, 일반 키에서는 클라이언트가 acceptor 투표에서 리더 순서 쓰기를 직접 학습하며, 드물게 접근하는 키의 쓰기는 키별 고정 다수 경로로 리더 순서를 우회한다. 이 경로들은 로컬 읽기가 완료된 쓰기를 놓치지 않도록 공유 규칙을 따른다. 플래너는 네트워크 지연과 워크로드 통계를 사용해 복제본 역할과 쓰기 경로를 선택하며, 쓰기 완료 시간과 읽기가 진행 중인 쓰기 뒤에서 기다리는 시간을 함께 고려한다. 일반 경로에서 읽기는 가까운 단일 복제본에서 완료되고, 드문 키 쓰기는 한 번의 왕복으로 끝난다.

어떻게 쓰나

실험은 5개 또는 9개 복제본을 쓰는 6개 배포의 평균으로 보고된다. 쓰기 중심 워크로드(50% 쓰기)에서 A-greement는 가장 빠른 대안인 SwiftPaxos보다 평균 지연을 12.2% 줄였지만 p99 지연은 13.8% 높아졌다. 읽기 중심 워크로드(5% 쓰기)에서는 평균 지연이 가장 낮은 대안인 Bodega보다 평균 지연과 p99 지연을 각각 33.3%, 30.1% 줄였고, p99는 해당 지표 최고 대안인 SwiftPaxos와 3.4% 이내 차이를 보였다. 읽기 전용 워크로드에서는 가장 빠른 베이스라인과 동등했다. 발견과 검증을 포함한 AI-greement 실행은 약 24시간, 7억 7845만 토큰, 추정 API 환산 비용 198.69달러가 들었다.

전제와 한계

논문은 일반 목적 코딩 에이전트만으로는 이런 성과를 내기 어렵다는 근거도 제시한다. SwiftPaxos 코드베이스에서 GPT-6.1 Sol 기반 Codex 하네스로 20라운드 탐색을 시켰을 때 최선 후보는 5·9·13개 복제본 평균, 초당 2만 명령 부하에서 평균 179.87ms, 평균 p99 289.77ms로 SwiftPaxos의 196.16ms, 297.62ms보다 소폭 나았다. SkyDiscover-Synthesize 시도는 약 11.5시간, 4억 8600만 토큰을 쓰고도 완전한 지연 평가에 이르지 못했고 성능 개선을 보이지 못했다. 저자들은 그 원인을 합의 원리에 대한 이해 부족, 매 라운드 전체 프로토콜 재구현, 테스트만으로는 모든 실행의 안전성을 보장할 수 없다는 점으로 정리한다.

AI-greement의 Lean 형식화는 기존 합의 프로토콜에서 이전에 보고되지 않은 안전성 취약점 4개를 찾았다. EPaxos Revisited의 최적화 두 가지는 복제본들이 충돌 명령을 반대 순서로 실행하게 만들 수 있었고, Bodega의 두 문제는 조기 수락이 읽기 경로마다 일관되지 않은 값을 노출할 수 있으며 클라이언트 타임아웃 재시도가 하나의 쓰기를 두 번 실행할 수 있음을 보였다. 이는 하네스가 A-greement 발견에만 쓰이지 않고 기존 프로토콜 감사에도 유용하다는 주장을 뒷받침한다. 다만 현재 검증 대상은 안전성이며 라이브니스는 향후 과제로 남아 있다.

개발자 관점에서 이 논문은 지리 복제 키-값 저장소나 SMR을 만들 때 토폴로지와 워크로드에 따라 읽기·쓰기 경로를 혼합하는 설계가 평균 지연을 줄일 수 있음을 보여준다. 동시에 쓰기 중심에서 p99가 나빠질 수 있으므로 평균 지연만 보지 말고 꼬리 지연, 안전성, 라이브니스, 장애 복구를 함께 확인해야 한다. AI 에이전트는 후보 조합 탐색과 형식 검증, 반증 사례 생성에 유용하지만, 저자들은 검색 전·중·후에 인간 합의 전문가가 필요하다고 강조한다. 목표와 안전 요구사항, 평가 환경을 정의하고, 에이전트 행동과 벤치마크 과적합을 검토하며, Lean 명세가 실제 프로토콜과 구현을 충실히 반영하는지 확인해야 한다. 실제로 에이전트는 네트워크 지터를 이용하려고 같은 목적지로 TCP 연결을 두 개 만들어 요청을 중복 전송했고, 저자들은 이를 최종 평가 전에 제거했다.

결론적으로 저자들은 합의 연구의 종말이 아니라 새로운 시작이라고 답한다. 에이전트는 프로토콜 지식 검색, 후보 설계·구현, 형식 논거와 반례 생성 같은 연구 과정의 상당 부분을 맡을 수 있지만, 문제 정의와 안전 요구사항 설정, 평가 환경 설계, 결과 검토는 여전히 인간의 몫이다. Lean 증명은 프로토콜 모델에 대한 것이고 구현과의 대응은 인간 전문가가 확인해야 하며, 평가도 특정 배포·워크로드·토폴로지에 한정된다. 이 논문이 보여준 것은 AI가 합의 연구를 대체한다기보다 전문가의 역할을 바꾸면서 탐색 공간을 넓힌다는 주장이다.