PaceShift가 밀집 예측에서 감독 신뢰도와 학습 순서를 분리해 훈련한다

Supervision-Adaptive Curriculum and Guarded Anti-Curriculum Learning for Dense Prediction

arXiv2610.29519v1

Chunming He2026-10-21

무엇인가

이 논문은 픽셀마다 라벨을 붙이는 밀집 예측에서 네트워크 구조만큼이나 학습 신호의 신뢰도와 소비 순서가 성능을 제한한다고 본다. 특히 객체가 배경과 비슷한 시각 패턴을 공유하는 문맥 얽힘 콘텐츠 세그멘테이션(CECS)을 중심으로, 위장 객체·투명 객체·은폐 결함·폴립 세그멘테이션처럼 경계 대비가 낮고 주석 불확실성이 큰 과제를 다룬다. 저자들은 쉬운 샘플이 고주파 텍스처 단축키를 드러낼 수 있고, 어려운 샘플은 유용할 수도 있지만 약한 주석이나 모호성 때문에 해로울 수도 있으며, 높은 확신이 정답을 뜻하지는 않는다고 지적한다. 기존 커리큘럼 학습이 쉬운 샘플은 신뢰할 수 있고 난이도가 학습 효용을 따른다고 가정하는 지점이 CECS에서 깨진다는 것이다.

어떻게 동작하나

제안 방법 PaceShift는 안정화 후 도전이라는 두 단계로 구성된다. 1단계 SA-RCS는 처음 10에폭 동안 모든 샘플로 워밍업한 뒤, 신뢰도 점수 ρ_i로 난이도 d_i=1−ρ_i를 정의하고 선택 백분위를 0.6에서 1까지 점진적으로 넓혀 신뢰할 수 있는 샘플부터 투입한다. ρ_i는 감독 일치도, 증강 일관성, 모델 불일치의 보수, 예측 확실성의 보수를 결합한 값이며, 가중치는 감독 출처 신뢰도 τ_trust에 따라 달라진다. 밀집 인간 마스크는 0.7, 희소 인간 단서는 0.4, 모델 유도 신호는 0.3을 쓰고, 나머지 보조 단서는 고정 템플릿 (0.4, 0.4, 0.2)로 배분한다. 또한 체크포인트별 난이도의 평균과 분산을 저장해 중간 분산을 선호하는 무파라미터 포물선 가중치와 지속 실패에 대한 벌점을 적용하고, 픽셀 불확실성 가중치로 초기 불확실 영역의 영향을 줄인다. 이렇게 감독 신뢰도와 시간적 업데이트 가치를 분리하는 것이 핵심이다.

무엇과 다른가

2단계 SBFT-P는 안정화 이후 난이도를 의도적으로 높이는 가드된 안티 커리큘럼 후훈련이다. 여러 반경의 스펙트럼 도전을 적용하고, 각 스펙트럼 뷰에서 나온 예측을 감독 일치도, 견고성, 기준 일관성, 벌점으로 순위화한다. 이때 고정된 1단계 기준 모델에 대한 쌍별 선호 목적과 앵커를 사용해 예측을 다듬고, 불확실성은 단독 선택 규칙이 아니라 약한 벌점으로만 쓴다. 논문은 전체 감독에서는 기존 단일 반경 SBFT가 특수 사례로 복원된다고 설명한다. 중요한 점은 배포 아키텍처를 바꾸지 않고 추론 계산도 추가하지 않는다는 것이다.

어떻게 쓰나

실험은 CECS뿐 아니라 임상·이분·돌출 세그멘테이션, 기초 모델 및 교차 모달 적응, 전체·약·준·모델 유도 감독, 여러 아키텍처와 데이터 중심 베이스라인으로 확장된다. 본문에 제시된 대표 수치로 COD10K에서 픽셀 풀링 ECE가 0.019에서 0.011로 낮아져 CurriSeg의 0.016보다 좋아졌다. 참조 상대 쌍별 목적은 다중 반경 감독보다 S_alpha c를 0.0058±0.0018 높이고, ECE를 0.0010±0.0003, GT-CAG를 0.0027±0.0009 줄였으며 이는 다섯 번의 실행 모두에서 Holm 보정 쌍체 t검정 p<0.01이었다. 다중 반경 감독은 단일 반경 회의 버전보다 낫지만 전체 설계보다는 낮았고, 무작위 선호는 다중 반경 수준에 머물렀으며, 확신 순위 선호는 정확도와 견고성을 일부 회복했지만 GT-CAG를 넓혔다. 앵커 제거는 쌍별 목적과 비슷한 손실을 냈다.

전제와 한계

진단 실험은 각 구성 요소의 역할을 분리한다. 외부 제안을 제거하면 AUROC가 3.5포인트 낮아졌고, 의사 마스크와 제안의 직접 일치는 0.806으로 ρ_i가 직접 외부 검사보다 2.1포인트 더 나았다. 자연 발생 의사 라벨에서는 ρ_i 다섯 분위에 따라 품질이 단조 감소했고, 상위와 하위의 IoU 격차는 32.2포인트, 샘플 수준 스피어만 상관은 0.64였다. 시간 가중치 ω_i는 최적화기 조건의 일차 정렬 대리 지표와 가장 강한 상관과 상위 20% 겹침을 보였고, 순간 손실은 그 지표와 음의 상관을 보였다. 가드 선택은 더 나은 단일 단서 규칙보다 후회값을 절반 이하로 줄였고 무작위 Top-1보다 크게 높았으며, 깨끗한 후보가 선택의 최대 42%에 그쳤다. 주파수 개입에서는 훈련 반경 {0.90, 0.95, 1.00} 밖인 0.70 나이퀴스트 컷오프에서 고주파 제거와 고주파 잡음에 대한 민감도를 각각 43%, 45% 줄였고 저주파 억제에는 더 민감해졌다. 단순 쉬운 것 우선 학습은 정확도도 낮고 고주파 개입에도 더 민감했다.

단계 순서 실험은 두 단계가 교환 가능하지 않음을 보여준다. 도전을 먼저 하는 일정은 가드 여부와 무관하게 표준 학습보다 크게 낮았고, 순서를 뒤집어도 S_alpha와 S_alpha c에서 표준 학습보다 낮았다. 두 손실을 번갈아 쓰는 방식도 엄격한 두 단계 순서보다 낮았으며, 검증 성능 정체 시 2단계를 시작하는 적응 트리거는 고정 전환 에폭과 대등했다. 손상 견고성 실험은 잡음·블러·날씨/가시성·디지털/광도 네 계열, 다섯 심각도에서 각 모델의 깨끗한 성능 대비 유지율로 측정했고, PaceShift는 0이 아닌 모든 심각도에서 CurriSeg보다 더 많이 유지했으며 심각도가 커질수록 격차가 벌어졌다. 신뢰도 프리셋은 균일 가중치나 τ_trust=0.5보다 나았고, 출처 불일치가 가장 크게 성능을 떨어뜨렸다. ±20% 순서 보존 교란에는 안정적이었고 검증 튜닝은 S_alpha를 0.001만 개선했다. 전역 상수 실험에서 ε=0은 GT-CAG를 0.041로, λ_anc=0은 0.039로 높였고, 다섯 비전환 상수의 ±20% 동시 교란은 평균 S_alpha를 기본값의 0.002 이내로 유지했으며 ±40%에서도 급격한 붕괴는 없었다. 기본 예산은 T=70이다.

저자들이 밝힌 한계는 분명하다. 스펙트럼 개입은 목표와 배경이 저수준 통계를 공유하는 위장·폴립·투명 세그멘테이션에서 가장 유용하며, 이 메커니즘은 주로 CECS 진단으로 뒷받침된다. 광범위한 실험은 전체 훈련 레시피를 평가할 뿐 각 단계의 기여를 분리하지 않는다. 객체가 몇 픽셀만 차지하면 스펙트럼 감쇠가 방해 단서와 함께 유용한 목표 증거를 제거할 수 있고, 잔여 실패에는 겹치는 인스턴스와 심한 폐색이 포함된다. 샘플 신뢰도 변화가 작으면 신뢰도 기반 스케줄링의 이득이 줄 수 있고, 외부 교사나 제안 증거를 쓰는 불완전 감독 설정은 그 품질에 의존한다. 2단계는 훈련 시간 계산을 약간 늘리지만 추론 시 파라미터나 비용은 추가하지 않는다. 논문은 코드를 공개하겠다고만 밝히고 본문에 저장소 URL은 제시하지 않았다.