망각 전용 언러닝은 왜 훈련 데이터 기억을 요구하는가
Why Forget-Only Unlearning Needs Memorization
무엇인가
이 논문은 머신 언러닝(machine unlearning)에서 삭제 알고리즘이 훈련된 모델 M과 삭제할 예시 집합 U만 받는 forget-only 설정을 다룬다. 재학습 기준 W=A(S\U)에 분포적으로 가까운 출력을 내야 하지만, 삭제 시점에 남은 데이터 S\U, 훈련 로그, 체크포인트, 그래디언트, 보조 통계에 접근할 수 없다. GDPR의 잊힐 권리, 오염 데이터·저작권 데이터·불법 수집 데이터 제거 필요성 때문에 중요한 문제이며, 저자들은 forget-only 언러닝이 항상 가능한지, 불가능하다면 어떤 조건 때문인지, 가능하다면 모델이 무엇을 기억해야 하는지 묻는다. 보장은 (α,ε)-Rényi 언러닝으로 정의되며, 입력과 무관한 상수 출력 같은 퇴화를 막기 위해 빈 삭제 요청에서 원래 모델과 가까워야 하는 유틸리티 조건도 둔다.
어떻게 동작하나
첫 번째 기여는 불가능성이다. 저자들은 shared-deletion example(s.d.e.)을 정의한다. N개의 데이터셋 S_i가 같은 삭제 집합 U를 공유하고, 훈련 후 모델 분포는 서로 가깝지만 U를 삭제한 뒤 재학습 목표는 서로 멀리 떨어진 집합 E_i에 집중되는 상황이다. forget-only 언러너는 모든 i에 대해 동일한 입력 (M,U)를 받으므로 같은 출력 분포를 내야 하는데, 그 분포가 서로 멀리 떨어진 여러 재학습 목표와 동시에 가까울 수 없고 빈 요청 유틸리티까지 만족하면 모순이 생긴다. Theorem 3.1은 이런 s.d.e.가 존재할 때 ε의 하한을 준다. 정확 충돌 δα=0에서는 ε ≥ sup_r max{ log N + (1/γ)log(1-u(r)), (1/γ)log((N-1)/N) - log u(r) }이고, 여기서 u(r)=κ+Γ(r), γ=(α-1)/α다. 근사 충돌 δα>0에서는 추가 항이 붙는다.
무엇과 다른가
이 틀은 구체적 학습 알고리즘에 적용된다. canonical threshold learner는 (2,m,c-1/2, |·|;0,0)-s.d.e.를, empirical median은 n과 m에 따라 Δ=c 또는 2c인 s.d.e.를 가진다. hard-margin homogeneous linear SVM은 차원 d≥2에서 모든 Δ>0에 대해 (2,1,Δ, ||·||_2,0,0)-s.d.e.를 가지며, Corollary 1.1은 비자명한 유틸리티를 가진 forget-only 언러너가 모든 데이터셋과 삭제 요청에 대해 고정된 유한 ε으로 (α,ε)-Rényi 언러닝을 만족할 수 없다고 말한다. 또한 Proposition 3.2는 teaching dimension이 유한한 가설 클래스에서 zero-one 손실 ERM이 충분히 큰 데이터셋에 대해 s.d.e.를 반드시 가진다고 보인다.
어떻게 쓰나
두 번째 기여는 성공 조건에서 필요한 기억량의 하한이다. 저자들은 상호정보량 I(M;S)로 기억을 측정한다. Theorem 1.2는 요청 순서 π에 대해 I(M;S) ≳ Σ_i H(W_{π(i)} | W_{π(<i)}, U_{π(≤i)}) - K·err(α,ε)를 제시한다. 각 삭제 요청이 드러내는 재학습 목표 W_i의 새 정보를 세되, 여러 삭제가 같은 정보를 중복해서 드러낼 수 있으므로 순서를 통해 비중복 정보만 계산한다. canonical threshold learner에서는 일반 학습이 경계점 하나만 유지해 I(M;S)_bare = log(N/n) 비트를 갖지만, 크기 m 이하 삭제 요청을 지원하려면 n≥2m일 때 Ω(m log(N/n)) 비트를 기억해야 한다.
전제와 한계
구체적 하한은 여러 알고리즘에 대해 제시된다. canonical threshold ERM은 n≥2m, q≥2, N=nq에서 I(M;S) ≥ m[ log(N/n) - β_q log(N/n -1) - h(β_q) ]를 요구한다. coordinate PCA는 d=nq, 2m≤n에서 I(M;S) ≥ m[ log(d/n) - β_q log(d/n -1) - h(β_q) ]이고, 일반 출력은 log(d/n) 비트만 가진다. one-hot 입력의 ridge regression은 d=2b, n=8b에서 I(M;S) ≥ n/8[ log3 - h(β_3) - β_3 log2 ]이며, 이 분포에서 일반 ridge 출력은 항상 0이라 I(M;S)_bare=0이다. β_3<2/3이면 단일 예시 삭제만으로도 일반 계수만으로는 보장을 지원할 수 없다. row-wise factorized affine matrix completion은 r⋆=min{⌊√d⌋, ⌊n/(m+1)⌋}일 때 I(M;S) ≥ log(r⋆!) - Σ_{s=2}^{r⋆}[ h(β_s)+β_s log(s-1) ]이고, 기본 적합 행렬은 결정적이라 I(M;S)_bare=0이다.
실험과 결과라는 관점에서 이 논문은 데이터셋이나 베이스라인을 사용한 경험적 실험을 제시하지 않는다. 원문에 정확도, F1, 런타임 같은 실험 수치는 없고, 대신 정리와 명제로 정보이론적 하한을 제시한다. 따라서 개발자가 확인할 수 있는 결과는 특정 알고리즘에서 forget-only 언러닝이 요구하는 ε 하한과 I(M;S) 하한, 그리고 일반 학습 출력이 담는 정보량과의 격차다.
개발자에게 의미는 분명하다. 삭제 요청을 나중에 처리하려면 모델 출력만 저장하는 설계가 정보이론적으로 부족할 수 있다. threshold, PCA, ridge regression, 행렬 완성 예시에서는 일반 학습이 버린 정보가 삭제 후 재학습 목표를 복원하는 데 필요하며, 저자들은 원래 모델 공간 안에 그 정보를 모두 인코딩할 수 없다고 지적한다. 따라서 forget-only API를 설계한다면 모델 가중치 외에 어떤 훈련 상태나 요약을 보존할지, 또는 남은 데이터·프록시 데이터를 삭제 시점에 사용할지 결정해야 한다. gradient ascent on forget set 같은 forget-only 계열 방법이 항상 통하지 않는 이유도 이 구조에서 설명된다.
한계도 저자들이 밝힌다. 하한은 얼마나 많은 복원 가능 정보를 기억해야 하는지를 정량화하지만, 어떤 특징이나 통계를 어떤 형태로 저장해야 하는지는 지정하지 않는다. 과대매개변수 모델이 이미 기억하는 정보를 인증된 forget-only 언러닝에 실제로 접근 가능하게 만들 수 있는지는 열린 문제다. 또한 현대 아키텍처와 대규모 학습 파이프라인에 이 하한을 인스턴스화하는 일은 향후 과제로 남는다. 보장은 모든 데이터셋과 삭제 요청에 균일하게 적용되는 (α,ε)-Rényi 언러닝과 빈 요청 유틸리티를 전제로 하며, I(M;S) 하한에서는 데이터셋에 대한 분석 분포를 둔다.