LLM 에이전트 확률 상태는 참과 거짓을 뒤집어도 합이 1이 되지 않는다

무엇인가

이 논문은 LLM 에이전트 기반 여론 시뮬레이션에서 에이전트가 출력한 확률이 다음 라운드의 상태로 저장되는 구조를 문제 삼는다. 에이전트는 자신의 이전 확률, 이웃들이 보고한 확률, 근거 자료, 청중 지시를 보고 특정 주장이 참일 확률을 낸다. 만약 이 숫자가 문장 표현이 아니라 에이전트의 입장을 나타낸다면, 주장을 그 보완 명제로 바꾸고 모든 확률 p를 1-p로 바꿨을 때 두 보고는 1로 합쳐져야 한다. 저자들은 이를 보완 일관성이라고 부르며, 달력·시드·업데이트 스케줄을 바꿔도 드러나지 않을 수 있는 국소적 표현 의존성을 직접 검사해야 한다고 주장한다. 이는 보정이나 완전한 확률적 정합성과는 구분되는 운영적 기준이다.

어떻게 동작하나

방법은 요청 전체를 변환하는 것이다. 요청 s를 주장 c, 자신의 확률 p, 순서가 있는 이웃 보고 r, 근거 E, 청중 지시 a로 두고, 보완 변환 T(s)를 보완 주장, 1-p, 각 이웃 보고의 1-r, 동일한 근거와 지시로 정의한다. 결정론적 업데이터가 Fθ(T(s))=1-Fθ(s)를 만족하면 보완 일관성이 있다. 실제 측정은 q0=Fθ(s), q1=Fθ(T(s))에 대해 δ=q0+q1-1, A=|δ|로 한다. 같은 의미의 패러프레이즈 민감도 H도 대조군으로 계산해 보완 불일치가 단순한 표현 민감도보다 큰지 비교한다. 또한 평균 수준 불일치 Aμ=|μX+μY-1|와 개별 추출 불일치 Adraw=E|X+Y-1|를 분리해, 평균이 상쇄되어도 개별 보고는 불일치할 수 있음을 다룬다. 피드백 실험에서는 한 집단 x와 보완 상태 1-x에서 시작한 집단 y를 같은 그래프·근거·실행 규칙으로 진화시키고, z=1-y로 되돌려 d(t)=mean|x-z|를 측정한다. 국소 보완 일관성이 모든 단계에서 성립하면 두 집단은 계속 거울상이어야 한다. 대칭화 R(s)=(q0+1-q1)/2는 쌍을 이루는 두 보고를 평균해 R(T(s))=1-R(s)를 구성적으로 만족시키며, 고정된 쌍에서는 방향 평균 Brier 손실을 δ^2/4만큼 낮추지만 폐루프에서의 효과는 별도 실험 문제라고 밝힌다.

무엇과 다른가

실험은 Qwen3-4B, Llama-3.2-3B, Gemma-3-4B 세 소형 오픈 모델을 llama.cpp로 로컬 실행해 진행했다. 시뮬레이션 연구는 16개의 가상 캠퍼스 주장을 8개의 참·거짓 짝으로 만들고, 12개 월드 시드, 12명 에이전트, 6라운드, 3개 스케줄, 3개 근거 정책을 교차해 1,728개 셀과 124,416개 에이전트 업데이트를 생성했다. 보존 상태 연구는 3라운드에서 근거를 받은 세 에이전트의 첫 업데이트를 뽑아 768개 매칭 블록의 2,304개 수신자 상태를 사용했다. 실제 주장 연구는 AVeriTeC 개발 세트에서 Supported와 Refuted가 균형을 이루는 48개 주장을 25개 팩트체크 기관에서 선별했고, 7,680개 응답 기록을 만든 뒤 이웃 순서 평균을 거쳐 3,840개 관측과 1,920개 보완 쌍을 분석했다. 통제 벤치마크는 24개 월드로, 배타적 색상, 이진 스위치, 정수 홀짝, 임계값 분할, 유한집합 소속, 엄격한 사건 순서의 여섯 구조 계열에 각각 4개씩 두었고 모든 월드가 정확히 두 개의 소진적 결과를 갖는다. 절반은 원래 설명이 참이며, 각 방향에 기본 문장과 같은 극성의 패러프레이즈를 두고, 보조 테스트에서는 두 번째 설명을 첫 설명의 명시적 부정으로 바꾼다. 통제 연구는 그리디 디코딩을 쓰고 반복 샘플링 연구만 온도 0.2와 별도 시드를 사용했다.

어떻게 쓰나

국소 결과는 일관성 실패를 보여준다. 근거 텍스트가 없는 보존 상태의 평균 부호 있는 불일치는 0.1846, 평균 절대 불일치는 0.1899였고, Qwen의 짝지은 보고는 평균 1.18로 1을 넘었다. 근거를 복원하면 부호 있는 평균은 -0.1138, 95% 구간 [-0.2278, -0.0208]로 방향이 바뀌었다. 실제 주장에서는 평균 부호 있는 불일치 0.1867, 평균 절대 불일치 0.3259, 중앙값 절대 불일치 0.2500이었고, Supported 주장은 부호 있는 평균 0.3488과 절대 평균 0.3647, Refuted 주장은 0.0246과 0.2872로 갈렸다. 통제 벤치마크에서는 세 모델 모두 실패했고, 보완 불일치가 같은 의미 패러프레이즈 민감도보다 모든 모델과 근거 조건에서 컸으며 그 크기는 2배에서 10배 수준이었다. 근거가 보이는 조건에서 Qwen은 288쌍 중 215쌍, Llama는 288쌍 중 210쌍이 정확히 일관되어 모든 요청이 실패하는 것은 아니었다. 명시적 부정은 Qwen과 Llama의 절대 불일치를 두 근거 조건 모두에서 키웠지만 Gemma에서는 줄였다. 반복 샘플링에서 Llama는 근거가 보일 때 평균 수준 불일치 0.168, 독립 추출 쌍 0.184, 그리디 0.200을 보였고, Qwen은 각 요청의 80개 추출이 모두 동일해 두 추정치가 같았다. 이웃 수와 보고 강도를 교차한 54개 조합 모두 평균 불일치가 양수였지만, 기저 1,944쌍 중 624쌍은 정확히 일관되었다.

전제와 한계

피드백과 수리 실험은 국소 불일치가 집단 궤적으로 이어질 수 있음을 보여준다. 보완 상태에서 시작한 두 집단은 모든 모델과 근거 조건에서 5라운드 뒤 양의 최종 발산을 보였고, 근거가 보일 때 Qwen의 발산은 약 0.23에서 0.28 사이로 거의 평평했지만 Llama와 Gemma는 증가했다. 대칭화는 세 모델 모두에서 방향 평균 최종 및 라운드 평균 가시 Brier 손실을 낮췄지만, 두 원래 방향 중 더 좋은 쪽을 항상 이기지는 못했다. 최종 라운드에서 더 좋은 원래 문구를 이긴 모델은 세 모델 중 하나뿐이었고, Qwen의 최종 손실은 더 좋은 기준 방향보다 나빴으며 Llama도 최종 및 라운드 평균에서 더 좋은 기준 방향보다 나빴다. 보완 알림은 Qwen과 Llama의 방향 평균 끝점을 개선했지만 Gemma는 악화시켰고, Llama에서는 보완 방향이 0.345에서 0.209로 좋아지는 동안 원래 방향은 0.071에서 0.074로 거의 그대로였다. 같은 방향의 그리디 호출은 동일한 숫자를 반환해 평균화가 기준 경로를 그대로 재현했고, 수리 실험군들은 계산량이 동일하게 맞춰지지 않았다.

네트워크 실험은 스케줄 견고성과 표현 일관성이 다른 속성임을 보여준다. 정도 기반 전달과 무작위 전달의 대비는 세 스케줄 모두에서 양의 점추정치였지만, 주 상호작용 I=0.0015의 95% 구간 [-0.0093, 0.0132]가 0을 가로질러 전달 우위나 스케줄 상호작용을 확립하지 못했다. 근거 복원은 평균 이웃 끌림을 0.0794에서 -0.0596으로 바꾸고, C>0이면서 동시에 Brier 손실이 커지는 업데이트 비율을 31.47%에서 2.00%로 줄였다. 그러나 평균 Brier 이득 R_src=0.0233의 구간은 양쪽 부호를 걸쳤고, 실제 주장의 근거 보호 추정치 P=0.0250도 0을 포함했다. 부정에서 긍정 끝점으로의 이동은 0.3830으로 역방향 0.2275보다 컸고, 답이 공유된다는 지시는 이웃 끌림을 0.0116 높였지만 정확도 악화 대비는 -0.0027로 구간이 0을 가로질렀다. 저자들은 사회적 이동, 사실 정확도, 보완 일관성이 서로 다른 경험적 결과라고 정리한다.

개발자에게 이 논문의 의미는 LLM 에이전트의 생성 확률을 상태로 저장하는 시뮬레이션을 만들 때 보완 일관성을 별도 평가 항목으로 넣어야 한다는 것이다. 테스트는 주장만 바꾸는 것이 아니라 자신의 사전 확률과 순서가 있는 이웃 보고까지 함께 1-p, 1-r로 변환해야 하며, 같은 극성의 패러프레이즈 대조군을 두고, 평균 보고의 상쇄와 개별 추출의 불일치를 분리해야 한다. 두 방향을 동일한 실행 규칙으로 끝까지 전파해 궤적 발산을 확인하고, 일관성 수치와 Brier 손실을 따로 보고해야 한다. 스케줄이나 그래프 선택에 대한 견고성은 문구에 대한 견고성을 보장하지 않으며, 대칭화 같은 수리는 일관성을 구성적으로 강제할 수는 있어도 폐루프 사실 손실과 호출 비용을 함께 평가해야 한다.

저자들이 밝힌 한계는 분명하다. 실험은 세 소형 오픈 모델에 한정되고, 모델 크기·양자화·프롬프트 형식이 달라 아키텍처 비교가 아니라 모델 구성 비교로 읽어야 한다. 고정된 자료로는 보지 못한 월드, 그래프, 사람, 모델에 대한 신뢰구간을 지원하지 않으며, 확률적 결과의 구간은 추출을 독립으로 보는 점별 몬테카를로 경계라 동시적이거나 모집단 구간이 아니다. 통제 자료의 문구는 사람 평가자로 검증하지 않았고, 실제 주장의 부정문은 연구자가 만든 언어 쌍이라 시제나 양태가 달라지는 경우가 있다. 이웃 집단은 동질적이고 반대 보고를 먼저 배치했으므로 이질적 집단은 검증되지 않았다. 6개 월드 하위집합의 절대 수준은 24개 월드 평균과 비교할 수 없으며, 예를 들어 Qwen은 근거가 보일 때 24개 월드 전체에서 0.17이지만 하위집합에서는 약 0.3이었다. 수리 실험군은 계산량이 맞춰지지 않았고, 보고된 숫자는 내적 신념이나 인간 행동이 아니라 관측된 응답이다. 일관성은 정확도가 아니며, 0.5만 계속 보고하는 것은 완벽히 일관되지만 어느 이진 레이블에도 Brier 손실 0.25를 갖는다.