Anthropic이 증류 공격 방어책을 공개하며 탈취량을 90% 줄였다

Anthropic이 자사 블로그를 통해 모델 증류(distillation) 공격에 대응한 결과를 공개했다. 회사 측은 추론 기록을 탈취하기 어렵게 만드는 조치를 적용한 뒤 공격자들이 확보한 데이터 양이 약 90% 줄었다고 밝혔다. 이 수치는 회사가 자체적으로 집계한 값이며, 외부에서 독립적으로 검증된 자료는 아직 제시되지 않았다.

Anthropic이 설명하는 증류 공격의 특징은 규모와 은밀함이다. 대량의 불법 계정을 동원해 더 크고 강한 모델인 Claude에 수백만 건의 요청을 보내 응답을 모으고, 그 응답으로 소형 모델을 학습시켜 앞선 모델의 동작을 모방하게 만드는 방식이다. 회사 측 설명에 따르면 이 경로를 쓰면 정식 개발에 드는 시간과 비용의 일부만으로 최전선 수준의 성능에 근접할 수 있다.

배경에는 모델 제공자와 API 사용자 사이의 구조적 긴장이 있다. 모델의 출력 자체가 곧 학습 자원이 되면서, 서비스로 공개된 모델은 정당한 사용과 대량 추출 시도의 경계에서 운영된다. Anthropic은 이런 추출을 산업 규모의 공격으로 규정하고 방어 대상으로 삼았다고 밝혔지만, 원문에서 확인할 수 있는 범위는 여기까지다.

개발자 입장에서 이 소식은 API 사용 환경이 조여질 수 있다는 신호로 읽힌다. 제공자가 추론 기록 접근을 어렵게 만들면 대량 호출을 전제로 한 파이프라인, 로그 수집, 재학습용 데이터 적재 같은 워크로드가 속도 제한이나 계정 정책의 영향을 받을 수 있다. 자체 모델을 증류로 만드는 팀이라면 학습 데이터의 출처와 이용 약관을 다시 확인할 필요가 있다.

다만 이번 발표는 방어 효과를 회사가 스스로 측정해 공개한 사례다. 어떤 기법을 적용했는지, 90%라는 감소가 어떤 지표를 어떤 기간에 걸쳐 측정한 것인지는 공개된 내용만으로는 확인되지 않는다. 방어가 강화될수록 정상적인 대량 사용도 함께 제약될 수 있다는 점은 별도로 지켜볼 부분이다.