통합 이미지 편집 모델의 이해와 생성을 상호 신뢰 게이트로 함께 학습한다
DuplexBridge: Coordinating Understanding and Generation for Unified Image Editing
무엇인가
복잡한 이미지 편집은 과제를 정확히 해석하는 일과 그 해석을 정확히 실행하는 일을 동시에 요구한다. 그런데 편집이 실패했을 때 그 실패가 해석 쪽 책임인지 실행 쪽 책임인지는 결과 이미지만 봐서는 드러나지 않는다. 논문이 드는 예가 시계다. 디지털 시계가 14:35를 가리킬 때 아날로그 시계를 그 시간에서 90분 뒤인 4:05로 맞추라고 하면, 이해 역할이 참조 대상을 잘못 잡아 11:50을 지정하고 생성 역할이 그 11:50을 충실히 그려 넣을 수도 있고, 반대로 이해가 4:05를 정확히 지정했는데 생성이 보호 대상인 디지털 표시를 건드릴 수도 있다. 두 경우 모두 과제 수준의 점수 하나만으로는 구분되지 않는다. DuplexBridge는 이 문제를 이해 역할의 프롬프트 충실도, 생성 역할이 실제로 받은 조건의 실행, 그리고 최종 과제 결과라는 세 가지 서로 다른 검사로 분리한다.
어떻게 동작하나
방법의 골격은 외부 이해 모듈 없이 통합 모델 자신의 이해 능력 U가 자신의 생성 능력 G를 위한 조건을 만드는 네이티브 프롬프트 강화다. U는 소스 이미지 X와 지시 u를 받아 내부 해석 z와 공개 구조화 브리지 Ĉ를 만든다. Ĉ는 goal, scope, ops, preserve, avoid라는 그룹화된 JSON 필드로, 변경을 소스 개체에 결속하고 편집 가능 영역과 보호 영역을 분리하며 보존 요구사항과 금지 효과를 명시한다. 생성 역할은 원래 지시문도 U의 내부 추론도 받지 않고 X와 Ĉ만 새 컨텍스트에서 받는다. 이 공개 조건 자체가 실행 검사의 정의가 된다. 컴파일러 D(Ĉ)는 서로 겹치지 않는 변경 그룹 DΔ와 불변 그룹 Dinv를 만들고, 각 변경 그룹은 소스 결속과 적용 가능한 초기 상태 검사, 그리고 해당 출력 요구사항을 함께 만족해야 통과한다. 보존 요구사항은 소스 근거를 재사용하고 범위가 겹치면 중복 제거하거나 분할해, 같은 문구를 반복해도 보상 가중치가 커지지 않게 한다.
무엇과 다른가
학습은 세 평가가 받는 정보를 기준으로 갈린다. 프롬프트 충실도는 (X, u, Ĉ)만 보고, 실행은 (X, Ĉ, Ŷ)을 보며, 전역 결과는 (X, u, Ŷ)을 본다. U의 국소 보상은 별도로 검증된 참조 C*에 대한 형식 준수, 요구사항 단위 의미 정밀도·재현율, 명확성 판정의 평균이고, 생성 이미지 Ŷ는 절대 읽지 않는다. 계획 점수는 예측 요구사항과 검증된 요구사항 사이의 일대일 의미 매칭으로 계산해 2T/(P+R)로 두고, 형식은 스키마 준수 이진 판정, 명확성은 모순 없음 판정과 소스 결속 해결 비율의 평균이다. G의 국소 보상은 각 변경 그룹의 시각적 사후조건과 각 불변 그룹을 시각 판정기로 채점한 실행 점수에 품질 점수를 더한 형태다. 전역 피드백은 고정된 pairwise 보상 모델이 원래 지시와 루브릭 아래에서 후보 이미지를 기준 편집들과 비교해 내놓는 Yes 확률의 평균이며, 이 모델은 사고 교사 모델의 판정 분포를 소프트 증류해 만들고 U/G 학습 동안 동결된다. 여기에 상호 신뢰 게이트가 붙는다. 프롬프트 신뢰는 형식 통과, 계획 점수 임계값, 명확성 임계값, 필수 타깃 해결을 모두 만족할 때만 전역 보상을 G에 넘기고, 실행 신뢰는 실행 점수가 임계값을 넘을 때만 전역 보상을 U에 넘긴다. 게이트가 닫혀도 국소 감독은 그대로 유지된다. 학습은 U와 G를 번갈아 갱신하며, 각 역할이 국소·전역 두 개의 그룹 상대 클리핑 손실을 각자의 적격 집합에서 따로 정규화해 합치는 네 개 손실 성분 구조를 쓴다.
어떻게 쓰나
실험은 CE-Bench라는 1,200개 과제 벤치마크를 새로 만들어 평가한다. 이 벤치마크는 과제에서 도출한 변경 요구사항과 보존 요구사항을 모두 통과해야 하는 완전 준수율(CCR)을 핵심 지표로 삼고, 요구사항은 모델이 예측한 브리지와 무관하게 원래 과제에서 나온다. BAGEL, Qwen-Image-Edit-2511, Wan-Image-7B 세 구성에서 전체 시스템은 직접 편집기 대비 완전 준수율을 21.75~25.75%포인트 끌어올렸고, KRIS-Bench, RISEBench, ImgEdit, GEdit-Bench에서도 개선이 관찰됐다. 공통 감독 초기화를 쓴 Wan-Image에서 게이트를 포함한 공동 학습은 77.08% CCR로, 게이트 없는 70.92%, 그리고 게이트는 유지하되 G 국소 감독이 원래 과제를 검사하도록 바꾼 75.00%를 앞섰다. 그룹 구조를 맞춘 무작위 선택은 72.25%, 개수만 맞춘 무작위 선택은 71.33%였다. 구조와 게이트의 상호작용은 (r00, r01, r10, r11) = (67.42, 70.75, 70.92, 77.08)에서 2.83%포인트로 계산됐다. 고정된 6,000개 롤아웃에서 G 전역 피드백 적격 표본의 잘못된 프롬프트 비율은 18.59%에서 2.90%로, U 전역 피드백 적격 표본의 미실행 프롬프트 비율은 27.41%에서 4.60%로 떨어졌다. 체크포인트 교차 짝짓기의 이중 차분은 1.75%포인트다. 요구사항 부하 분석에서는 전체 짝지은 이득이 6.17%포인트[4.50, 7.83]였지만 단조롭지는 않아서, 부하 9 구간에서는 변경 전체 통과가 73.33%에서 60.56%로 떨어지는 동안 보존 전체 통과가 49.44%에서 52.78%로 올랐다. 사람 평가는 CE-Bench 200개 과제로 진행해 공통 194개 과제에서 사람 기준 CCR이 69.07%에서 75.77%로 6.70%포인트[1.03, 12.37] 올랐고, 자동 평가 이득은 6.19%포인트, 자동-사람 편향은 -0.52%포인트였다. 보상 모델 자체는 소프트 증류가 어려운 쌍 정확도를 66.5%에서 74.8%로 올려, 6.0배 온라인 지연을 쓰는 명시적 사고 방식의 75.8%에 1.0배 지연으로 근접했고, MMRB2는 66.2에서 70.6으로, EditReward-Bench는 K=2,3,4에서 57.2/35.9/10.8에서 61.0/43.5/15.8로 개선됐다. 텍스트-이미지 확장판인 DuplexBridge-T2I는 세 구성 모두 다섯 지표 전부에서 향상됐다.
전제와 한계
개발자 입장에서 이 논문의 실용적 가치는 통합 편집 모델을 파인튜닝할 때 보상 설계를 역할별로 쪼개는 구체적인 방법을 준다는 점이다. 하나의 과제 점수로 전체를 학습시키면 해석 실패와 실행 실패가 뒤섞여 그래디언트가 서로를 상쇄한다. 여기서는 이해 역할에 이미지 없이 프롬프트 충실도만 채점하고, 생성 역할에는 원래 지시가 아니라 실제로 받은 조건에 대한 실행만 채점한 뒤, 최종 결과 신호는 상대 역할의 신뢰가 확인될 때만 추가 손실로 얹는다. 구조화된 JSON 조건을 중간 산출물로 두면 어떤 요구사항이 통과했는지 그룹 단위로 추적할 수 있어 디버깅과 회귀 분석에도 유리하다. 다만 게이트 임계값과 판정 신뢰도 추정기가 별도 개발 라벨로 고정돼야 하고, 시각 판정기와 보상 모델 품질이 전체 성능을 좌우한다는 점은 도입 전에 확인해야 할 전제다.
저자들이 밝힌 한계는 분명하다. 검사가 전부 의미적 판정이라 같은 조건을 공유해도 소스 결속이나 시각 평가가 정확하다는 보장이 없고, 해결되지 않은 판정은 기권 처리되며 보상 신뢰도가 높다고 정답이 보장되지도 않는다. 실행 게이트는 그룹 평균 점수를 검사하기 때문에 다른 그룹이 통과하면 결정적인 요구사항 하나가 실패해도 임계값을 넘을 수 있다. 게이트는 선택적 목표를 정의할 뿐 반사실적 기여도 추정이나 무편향 무조건 기대수익 최적화가 아니며, 무작위 선택 대조군은 표본 품질과 최적화 노출을 완전히 분리하지 못한다. 요구사항 부하 구간은 과제 범주 구성이 달라 복잡도의 인과 효과를 말할 수 없고, 전체 CCR이 올라가도 일부 구성 요소는 퇴행한다. 사람 평가에서도 보존과 품질의 신뢰구간은 0을 포함해 화질 비열등성을 입증하지 못한다. 텍스트-이미지 확장은 편집 체크포인트의 제로샷 전이가 아니라 과제별 재학습이며, 비디오 생성·편집은 평가하지 않아 향후 과제로 남겨 두었다.