TeamGym이 분산 정보를 나눠 가진 AI 팀의 의사결정을 평가하고 훈련한다

무엇인가

실제 의사결정은 한 사람이 모든 정보를 갖고 있지 않다. 판단에 필요한 근거가 참가자들에게 흩어져 있고, 팀은 그것을 찾아내고 주고받아 하나의 결정으로 통합해야 한다. 그런데 언어모델 에이전트는 여전히 개별적으로 훈련되고 벤치마크된다. 기존 단일 에이전트 벤치마크는 모델 개인의 문제 해결력만 재고, CAMEL·AutoGen·MetaGPT·ChatDev 같은 멀티에이전트 연구는 주어진 문제를 푸는 하네스 설계에 집중한다. 참가자가 의사결정에 필요한 정보를 스스로 추출해 전달할 수 있는지, 정보 분포와 통신 구조가 바뀌면 팀 성과가 어떻게 달라지는지, 훈련으로 참가자·코디네이터 정책을 개선할 수 있는지에 대한 증거는 비어 있었다. 이 논문은 그 빈칸을 메우는 환경인 TeamGym을 제안한다.

어떻게 동작하나

핵심 개념은 pivotal information이다. 어떤 문제 인스턴스에 대해, 각 원소가 하나라도 빠지면 최고 팀 보상을 보장할 수 없고 전부 모이면 그것으로 충분한, 포함 관계에서 극소인 사실 집합을 찾는다. 각 원소가 pivotal information unit(PIU)이다. 구성 절차는 이렇다. 원문 코퍼스의 질문에서 결정 목표를 정하고 참조 결정을 확보한 뒤, 그 결정을 만든 추론 흔적을 유지하거나(없으면 정답 조건부 rationale 생성으로 만들어) 후보 근거 단위(문장, 문단, 표, 코드 블록)를 찾는다. 이어 grounding 검사와 모델 기반 complete-set 검사(후보 전체가 참조 결정을 지지하는가) 및 leave-one-out 검사(하나를 빼면 지지되지 않거나 미해결이 되는가)를 통과한 단위만 남긴다. 소프트웨어공학의 DeepSWE는 유효 패치가 여러 개이고 저장소 실행 비용이 커서, 고정된 유한 프로토콜로 검증한 functional PIU를 대신 쓴다.

무엇과 다른가

문제와 PIU를 고정한 채 TeamGym은 여러 축을 바꾼다. 누가 처음에 어느 PIU를 갖는지(5가지 PIU 분포 조건), 참가자가 PIU를 직접 받는지 아니면 PIU를 포함한 원문 자료를 받는지, 통신 구조, 토큰 예산이다. 통신 구조는 라운드로빈, 현재 화자가 다음 화자를 지목하는 방식, 전원 동시 응답, 코디네이터가 화자를 선택해 질의하는 방식, 코디네이터가 전원에게 같은 질의를 브로드캐스트하는 방식의 다섯 가지다. 앞의 세 구조에서는 통신에 참여하지 않는 별도 최종 결정자가 전체 발화록을 읽고 결정하고, 뒤의 두 구조에서는 코디네이터가 통신을 통제하며 최종 결정까지 내린다. 이렇게 문제 난이도를 고정하고 정보 분포만 흔들어, 성과 차이를 모델 지식 차이가 아니라 소통·검색 능력 차이로 해석할 수 있게 만든 것이 설계의 요점이다.

어떻게 쓰나

평가는 8개 언어모델과 12개 소스 코퍼스(계약서, 규정, SEC 공시, 생의학 논문, 소스 코드 등)에서 이뤄졌다. 같은 PIU를 한 모델에 몰아줬을 때와 참가자에게 분산했을 때의 성공률 차이가 평균 22.9%p(communication gap)이고, PIU를 직접 주지 않고 원문에서 찾게 하면 여기서 19.9%p가 더 떨어진다(retrieval gap). 즉 개인이 모든 정보를 받고 잘 푸는 능력은 팀 성과를 예측하지 못한다. 통신 구조의 우열도 정보 분포에 따라 뒤집힌다. 11개 문제 패밀리와 8개 모델에서 PIU 분포와 통신 구조의 상호작용항이 0이라는 귀무가설이 기각됐다(p<.001). 금융 59개 인스턴스에서는 라운드로빈이 코디네이터 화자 선택보다 All-but-one PIU 집중 조건에서 31.4%p, One PIU per participant 조건에서 17.8%p 앞서 +13.6%p의 상호작용이 나왔다. 원인은 코디네이터의 좁은 질의다. 화자 선택·순서·응답 수·예산을 고정하고 선택된 참가자의 PIU 범주 라벨과 지시를 덧붙이자 상호작용이 +15.5%p에서 +5.9%p로 줄었고, 질의 자체를 없애면 −5.4%p(라벨 없음), −9.3%p(라벨 있음)로 바뀌었다.

전제와 한계

발화록을 통한 정보 전달의 두 메커니즘도 분리해 측정했다. 올바른 종합(correct synthesis)을 추가하면 최종 결정자와 참가자 조합에 따라 성공률이 +14.6%p, +5.7%p, +17.7%p, +8.2%p 올랐고, 앞선 잘못된 주장을 이후 참가자가 받아 쓰는 error uptake를 제거하는 효과는 Qwen3-235B 참가자 조건(+5.7%p)과 GPT-5.5 최종 결정자 조건(+7.6%p)에서 유의했지만 모든 조건에서 종합 효과보다 작았다.

훈련 실험은 최종 결정의 팀 보상만으로 강화학습을 돌린다. 코디네이터가 통제하는 구조에서 2단계 정책 훈련은 CUAD 파생 검증 36개 인스턴스의 LLM 판정 점수를 12.14%에서 16.84%, 코디네이터 단계 후 23.33%까지 올렸지만, 26개 held-out MAUD 파생 인스턴스로는 전이되지 않았다. 코디네이터·참가자 두 정책을 동시에 훈련하면 11.97%에서 22.38%로 오르고, 전원에게 질의하는 비율이 80.6%에서 100%가 됐다. 전원 질의는 보상에 들어 있지 않으므로 창발적 조정이다. MAUD에서는 점수가 5.12%에서 5.58%로 거의 그대로인데도 26개 인스턴스 전부에서 코디네이터가 전원에게 질의하고 전원이 발화했다(기본 정책은 20개). 코디네이터 없이 현재 화자 선택 구조에서 공유 참가자 정책을 훈련한 실험에서는 FinDVer 350개와 2~3인 FinLongDocQA 188개로 학습해 39개 검증 부분집합으로 체크포인트를 골랐고, 두 검증 부분집합과 held-out 4인 FinLongDocQA 40개에서 점수가 개선됐다. 궤적을 고정하고 최종 결정 정책만 바꾸는 cross-replay에서 훈련된 통신 궤적은 6.95%p 이득을 냈지만 최종 결정 정책 교체는 유의하지 않았다. 동일한 GPT-5.5 최종 결정자를 적용하면 FinDVer에서 +12.6%p, 발화록에 등장하는 PIU 비율 +15.9%p였으나 held-out FinLongDocQA에서는 두 값 모두 0과 구분되지 않았다.

개발자 관점에서 이 논문의 쓸모는 두 가지다. 첫째, 여러 에이전트에 컨텍스트를 쪼개 넣는 설계를 할 때 '정보를 나눠주는 것 자체가 비용'이라는 점을 정량화해 준다. 같은 정보를 한 모델에 몰아주는 베이스라인을 반드시 함께 재야 하고, 검색까지 에이전트에게 맡기면 손실이 한 번 더 누적된다는 것을 전제로 예산을 잡아야 한다. 둘째, 통신 구조는 고정된 정답이 아니라 정보 분포에 대한 함수다. 코디네이터에게 좁은 질의를 시키는 패턴은 정보가 한 명에게 몰릴수록 손해가 커지므로, 질의에 대상 PIU 범주를 노출하거나 질의를 없애는 것만으로도 격차가 줄어든다는 것이 실험으로 확인된다. 여기에 최종 결정 정답만 보상으로 주는 RL로 발화 참여율·화자 선택 같은 협업 행동이 바뀐다는 결과는, 협업 행동을 별도 보상으로 설계하지 않아도 된다는 힌트로 읽을 수 있다.

저자들이 밝힌 한계는 분명하다. 훈련 실험은 각각 단일 런이고, 코디네이터 구조에서의 개선은 체크포인트 선택에 쓴 CUAD 파생 검증 인스턴스에서 측정된 것이다. MAUD 파생 인스턴스에서는 학습된 질의·메시지 패턴이 전이되지만 최종 결정 품질의 전이는 약하다. 또한 팀이 같은 보상을 공유한다고 가정하므로, 전략적 정보 전달이나 악의적·불신 참가자, 부분적으로만 일치하는 목표를 가진 팀은 다루지 않는다. 명시적 검색 비용이나 참가자가 어떤 원문을 검색할지 고르는 설정도 향후 과제로 남겨 두었다. 재현에 필요한 코드는 곧 공개 예정이라고 밝혔을 뿐, 원문에 저장소 URL은 제시되지 않았다.