가중치마다 GMM 게이트를 붙여 LLM의 치명적 망각을 막는다

무엇인가

대규모 사전학습 모델을 여러 단계로 파인튜닝하는 현대 딥러닝 패러다임에서, 새 데이터를 배우는 과정에 이전 능력이 덮여 사라지는 치명적 망각은 오래된 문제다. 리플레이 버퍼, 데이터 의존 정규화, 최적화 제약 같은 초기 완화책들은 사전학습 규모에서 확장되지 않고, 사전학습 데이터는 아예 접근할 수 없는 경우가 많다. 이 논문은 망각을 각 가중치 행렬의 입력 공간에서의 기하학 문제로 다시 본다.

어떻게 동작하나

분석의 출발점은 가중치 업데이트 ΔW = -α (dL/dv) x^T 가 모든 가능한 입력에 작용한다는 점이다. 파인튜닝 데이터 x^(s)로 만든 이 업데이트가 이전 데이터 x_pre의 로짓을 바꾸는 양은 x^(s)^T x_pre 내적에 비례하므로, x_pre가 x^(s)에 직교하지 않는 한 간섭이 생긴다. Adam은 2차 모멘트로 기울기를 재조정하고 Muon은 직교화하지만, 둘 다 모든 입력에 작용하는 행렬 업데이트를 만들어 이 문제를 피하지 못한다. 저자들은 이전 데이터에 대해 아무 가정도 하지 않고, 대신 현재 데이터가 존재하는 영역(서포트)만 추정해 업데이트를 그 영역으로 제한하자는 목표를 세운다.

무엇과 다른가

제안 방법 Local Support Learning(LSL)은 역할이 다른 두 부품을 짝지는다. 손실을 최소화하도록 평소처럼 학습되는 표준 가중치 어댑터와, 그 어댑터를 자기 학습 분포에서 나온 입력 활성값에만 켜 주는 게이트다. 게이트는 각 가중치 행렬마다 개별적으로 적용되며, 현재 단계 활성값에 EM 알고리즘으로 GMM Φ_pos를 피팅하고, 일반 사전학습 데이터의 작은 표본(100만 토큰 이하, Qwen 사전학습셋의 약 0.0000067%)에 Φ_neg를 피팅한 뒤 Φ_pos(x) - Φ_neg(x) > 0 일 때만 문을 연다. 가우시안 밀도가 학습 데이터에서 멀어지면 지수적으로 감소한다는 성질이, 본 적 없는 입력에서 게이트가 닫혀 있으려는 귀납적 편향을 제공한다. 토큰별 결정에는 지수이동평균 기반 시간적 스무딩을 덧붙인다. 학습 절차는 Φ_neg를 먼저 피팅하고, 각 단계에서 어댑터를 경사하강으로 학습한 뒤 해당 Φ_pos를 피팅하는 순서이며, 이전 단계의 어댑터와 GMM은 현재 학습 중에도 활성 상태로 남는다.

어떻게 쓰나

실험은 Qwen2.5-7B-Instruct를 사이버보안 지시 튜닝(SecEval), 영어→이그보 번역(chrF), 화학 지시 튜닝(ChemBench)에 파인튜닝하고, GSM8K·HumanEval·IFEval로 사전학습 능력 보존을 측정했다. 비교 대상은 LoRA, OP-LoRA, LwF다. LSL은 모든 벤치마크에서 새 태스크 성능을 확보하면서 보존 성능이 거의 최적에 가깝다. LoRA는 적응은 잘하지만 모든 설정에서 망각을 보였고, OP-LoRA는 LoRA와 거의 같은 성능에 그쳤는데 저자들은 망각이 사전학습 가중치의 상위 k 특이값 부분공간과 약하게만 연관된다고 분석한다. 함수 정규화 방식인 LwF는 가중치 기반 기법보다 낫지만 모든 태스크에서 LSL에 뒤진다.

전제와 한계

여러 파인튜닝 단계를 순차로 밟는 실험에서 LSL은 모든 단계에 걸쳐 사전학습 능력을 유지한 반면, 단계마다 새 어댑터를 붙여 병합하는 LoRA 베이스라인은 첫 단계 직후부터 심하게 저하됐다. LoRA에서 태스크 1(번역)은 두 단계 후 8%, 태스크 2(화학)는 한 단계 후 5% 하락했고, 태스크 1을 마친 뒤 태스크 3(사이버보안)의 제로샷 성능이 11% 떨어지는 망각도 나타났다. 학습률·어댑터 랭크·배치 크기를 스윕한 결과 LSL은 망각 없이 최대 학습 용량을 쓰는 반면, 기존 방식은 학습과 망각 사이의 트레이드오프에 묶였다. 1.5B에서 7B까지의 스케일링에서도 LSL은 모든 크기에서 LoRA보다 높은 보존율을 보였다.

효율과 절제 실험도 구체적이다. GMM 두 개를 위한 추가 메모리는 13.8MB이고 Φ_neg를 공유하므로 단계당 오버헤드는 6.9MB에 불과하다(베이스 모델 가중치가 bfloat16으로 약 14GB인 것과 비교하면 세 자릿수 작다). LSL 어댑터는 순전파당 86ms의 추론 지연을 더하고, 100만 토큰 학습 시간은 LoRA와 비슷한 수준에서 GMM 피팅을 포함해 1.64배가 된다. 반면 같은 국소 서포트를 구현한 Union of Spheres 게이트는 약 5.67GB를 요구한다. 절제 실험에서 GMM은 보존율을 76.6%에서 96.6%로 끌어올리고 시간적 스무딩이 이를 98.8%까지 더 올린다. 게이트는 분포 밖 사전학습 토큰의 약 16%(스무딩 시 5%)에서 열리는데도 사전학습 성능의 96.6%(98.8%)를 지킨다. MLP 게이트는 분포 내 데이터에서는 약간 앞서지만 분포 밖 사전학습 태스크에서 크게 무너졌고, 가중치별 게이트를 임베딩 뒤 단일 토큰 라우터로 바꾸면 새 태스크 개선분의 50~77%만 회복됐다.

실무적으로 LSL은 사전학습 능력을 지키면서 도메인 특화 파인튜닝을 여러 번 반복해야 하는 상황에 맞는다. LoRA와 사실상 같은 메모리로 동작하고, 학습률·랭크·배치 크기를 학습 성능 위주로 튜닝해도 보존이 흔들리지 않는다는 점이 실질적인 이점이다. 다만 어댑터를 베이스 가중치에 병합할 수 없어 추론 비용이 단계 수 P에 선형으로 늘어나며, 이 계산은 병렬화가 가능하다는 것이 저자들의 설명이다. 또한 게이트가 각 단계 활성값을 GMM으로 포착할 수 있다고 가정하므로 베이스 모델의 표현 품질에 의존하고, 실제로 모델이 클수록 보존이 좋아지는 경향이 스케일링 실험에 나타난다.

저자들이 밝힌 한계는 세 가지다. 어댑터 병합 불가로 인한 추론 비용 증가, 단일 가중치 행렬에 국한된 이론적 동기(다층 네트워크로의 확장은 경험적으로만 지지되고 형식적으로 증명되지 않음), 그리고 GMM 가정에 따른 베이스 모델 표현 품질 의존성이다. 향후 연구로는 더 큰 모델과 다른 모달리티, 강화학습 목표, 수백 개 단계로의 확장을 제시하며, 특히 테스트 시점 학습에서 새 지식을 컨텍스트가 아닌 가중치에 저장하는 가능성을 언급한다.