ACEdit는 자기 출력 학습으로 다중 턴 이미지 편집 붕괴를 막는다

무엇인가

이 논문이 다루는 문제는 다중 턴 이미지 편집의 붕괴다. 현대 편집 모델은 한 번의 편집에서는 인상적인 결과를 내지만, 사용자는 보통 한 장을 여러 번 고쳐 나간다. 이때 한 턴의 출력이 다음 턴의 입력이 되면서 작은 분포 이동이 누적되고, 편집기가 원래 학습한 입력 분포와 다중 턴 추론에서 마주치는 분포 사이에 간극이 벌어진다. 그 결과 아티팩트가 쌓이고 세부 묘사가 사라지며 지시하지 않은 부분까지 변한다. 기존 대책은 크게 두 갈래인데, 추론 시점 기법은 계산 오버헤드가 들고 분포 이동의 복잡성을 따라가지 못하며, 정답 시퀀스로 학습하면 훈련과 추론 사이 간극이 남고 자기 생성 시퀀스로 학습하면 감독 대상이 불안정해진다.

어떻게 동작하나

제안 방법의 핵심은 오토회귀 비디오 생성의 Self-Forcing 원리를 이미지 편집에 옮기는 것이다. 학생 편집기 Gθ가 자기 출력에 연속으로 편집을 적용해 롤아웃을 만든다. 원본 이미지 I0와 지시열 c1…cE(학습 시 E=10)가 주어지면 각 턴은 Ie = Gθ(Ie-1, ce)로 진행되고, 첫 턴 이후에는 추론 때와 마찬가지로 자기 생성 이미지를 입력으로 받는다. 문제는 자기 생성 궤적이 정답 궤적과 어긋나서 정답 이미지를 짝지어 감독할 수 없다는 점이다. 하나의 편집에는 유효한 결과가 여럿이므로 중간 출력이 정답과 달라도 편집 자체는 맞게 수행됐을 수 있고, 이후 턴은 정답 시퀀스와 다른 이미지 위에서 이뤄진다. 저자들은 정답 대신 점수 증류(score distillation)로 이 간극을 메운다.

무엇과 다른가

여기서 도입하는 것이 비대칭 조건화다. 학생은 이전 턴의 자기 출력과 현재 지시 ce를 받아 순차적으로 편집하지만, 교사는 항상 원본의 깨끗한 이미지 I0와 현재 턴까지 누적된 지시 he=(c1,…,ce)를 복합 편집 하나로 받는다. 예컨대 "가방 추가"→"빨갛게"→"가죽으로"→"금 버클 추가"라는 네 턴은 교사에게 "금 버클이 달린 빨간 가죽 가방 추가" 한 번으로 주어진다. 교사가 학생의 중간 출력을 조건으로 받으면 그 출력에 이미 섞인 아티팩트를 보존하려 들 수 있기 때문에, 감독 신호를 깨끗한 원본에 고정시키는 것이다. 손실은 VSD·DMD 계열을 따라 교사 vφ와 학생 출력에 함께 학습되는 보조 편집기 vψ의 속도 예측 차이로 계산한다. ∇θLdistill = we(τ)(vφγ − vψ) ∂x̂es/∂θ 형태이며, 보조 편집기는 별도의 flow-matching 손실로 학습된다. 4단계 디노이징 중 무작위로 고른 한 단계 s에서만 그래디언트를 흘리고 이전 디노이징 단계나 이전 턴으로는 역전파하지 않으며, 턴 사이 이미지는 VAE를 거치지 않고 latent 공간에서 그대로 전달한다. 보조 편집기를 5회 워밍업한 뒤 학생은 5회에 1회만 업데이트한다.

어떻게 쓰나

구현은 가볍다. 학생은 4단계 증류 모델인 FLUX.2-klein-9B이고 rank 16 LoRA(약 2,780만 파라미터, 전체의 0.3%)만 학습한다. 교사와 보조 편집기는 같은 계열의 비증류 모델 FLUX.2-klein-base-9B를 쓰며 교사는 고정하고 classifier-free guidance 스케일 2를 적용한다. 학습 데이터는 FLUX.2-klein-9B로 생성한 96장의 1024×1024 합성 이미지와 각 10개 편집 지시 체인(총 960개)이고 모두 국소 편집이다. AdamW로 505회 반복(워밍업 5회 + 500회, 학생 업데이트 100회)하며 NVIDIA B200 한 장에서 약 4.4 GPU-hour가 걸린다. 추론 시점 오버헤드는 전혀 추가되지 않는다.

전제와 한계

평가를 위해 기존 벤치마크의 한계를 지적하고 EdiVal-10을 새로 만든다. EdiVal은 3턴, MagicBrush는 최대 3턴, MSE-Bench는 5턴이라 드리프트가 쌓일 여지가 없고, 16턴까지 표방하는 Omni IIE Bench도 평균 4.35턴이며 260개 중 10턴에 도달하는 것은 9개뿐이다. 10턴 벤치마크인 LME-Bench는 첫 턴이 전역 편집이라 의도치 않은 변화와 편집이 요구한 변화를 구분할 수 없다. EdiVal-10은 GEdit-Bench의 실제 사진 252개 체인에 10턴 국소 편집을 붙이고, 편집 대상이 아닌 앵커 객체를 지정해 보존 여부를 측정한다. 지표는 품질(KRIS-Bench 품질 프롬프트를 쓴 VLM 판정과 ΔHPSv3), 보존(KRIS 일관성, 앵커의 DINOv2 거리, 배경의 LPIPS 거리), 편집(KRIS 지시 준수)이다.

10턴 누적 편집 후 결과에서 이 방법은 KRIS 품질 점수가 모든 비교 대상보다 유의하게 높았고, 가장 작은 격차도 Emu Edit 대비 0.30±0.08이었다. 전체 이미지 일관성은 3.85로 학습이 필요 없는 기법들의 3.04~3.32, 베이스 모델 3.03, MT-OPSD 1.29를 크게 앞선다. 배경 LPIPS는 0.254로 베이스 모델 0.351을 크게 개선했고, Emu Edit(0.264)보다도 0.010±0.005 낮았다. 앵커 객체 DINOv2는 0.203으로 Emu Edit의 0.196과 유의한 차이가 없었지만 나머지 방법보다는 유의하게 좋았다. 지시 준수는 3.38로 최고점인 FreqEdit 3.39와 유의차가 없고, MT-OPSD 3.16과 베이스 3.10보다는 유의하게 높다. 단일 편집 성능도 희생되지 않아 GEdit-Bench의 영어 지시 606개에서 HPSv3 하락이 0.18로 베이스 모델의 0.41보다 작았다.

절제 실험은 비대칭 조건화의 필요성을 뒷받침한다. 교사와 보조 편집기에 이전 학생 출력을 추가로 주면 일관성이 3.85에서 2.81로, 원본 이미지와 복합 지시 대신 이전 출력과 현재 지시를 주면 2.28로 떨어진다. 학생에게 원본 이미지를 참조로 더 주면 일관성은 4.08로 오르지만 지시 준수가 3.38에서 2.80으로 떨어지며, 뒤 턴의 편집이 앞 턴의 결과를 되돌린다. 롤아웃 길이를 5턴으로 줄여 학습하면 10턴 후 일관성이 3.29에 그쳐 개선분의 약 3분의 1만 회복한다.

저자들이 밝힌 전제와 한계도 분명하다. 다중 턴 편집이 항상 열화로 이어지는 것은 아니며, 피사체와 배경을 계속 교체하는 편집은 기존 모델도 긴 시퀀스에서 화질을 유지한다. 문제는 여러 턴에 걸쳐 내용을 보존해야 할 때이므로 이 논문은 그런 시퀀스에 초점을 둔다. 또한 특히 어려운 지시는 이전에 편집한 내용을 여전히 훼손할 수 있어 안정성과 지시 준수는 서로 관련되지만 별개의 목표이고, 학습에서 본 것보다 훨씬 긴 시퀀스로 강건성을 확장하는 일은 미해결 과제로 남는다. 실무 관점에서는 4단계 증류 모델에 소규모 LoRA를 붙이고 단일 GPU 몇 시간으로 누적 드리프트를 줄일 수 있다는 점, 그리고 자기 출력 롤아웃 학습과 교사 조건화 설계가 재귀적 생성 파이프라인 전반에 재사용할 만한 패턴이라는 점을 확인하면 된다.