Qwen3-4B에서 AI 문체 습관을 학습으로 걷어낸 deslop 모델 공개

Hacker News13일 전조회 1

Qwen3-4B-Instruct-2507을 기반으로 어시스턴트 특유의 말투를 학습 단계에서 제거한 모델이 나왔다. 개발자 erikkannike가 공개한 qwen3-4b-deslop은 프롬프트에 "평범하게 써라"라고 부탁하지 않아도, 이모 대시나 "X가 아니라 Y" 같은 상투적 문장 패턴을 스스로 피한다. 4비트 양자화(Q4_K_M) 기준 2.5GB라 Ollama나 llama.cpp로 노트북에서 바로 돌려볼 수 있다.

성과는 40개의 미학습 프롬프트로 측정됐다. 1000단어당 slop 점수는 원본 121에서 12.5로 떨어졌고, 응답의 68%가 사람이 쓴 글의 점수 범위에 들어왔다. 이모 대시는 1000단어당 20.5회에서 0회가 됐다. 문체를 다듬으면서도 사실 질문 30개는 30개 모두 정답을 맞혔고, 요청한 장르와 길이를 지키는 비율도 원본과 비슷한 수준을 유지했다.

점수의 근거가 된 것은 개발자가 직접 작성한 slop 탐지기다. AI 글쓰기 습관 목록을 정규식으로 옮겨 가중치를 매기고, 1000단어당 가중 빈도로 환산한다. 이모 대시, "그것은 X가 아니라 Y다" 식 대구, 세 개짜리 나열, 스스로 던지고 스스로 답하는 수사적 질문, "여기서 중요한 건" 같은 안내 문구, 강조용 단문 조각, delve·seamless 같은 단어가 항목에 들어간다. 꼼꼼한 사람이 쓴 문단은 거의 0점에 가깝다.

문제는 정규식이 좋은 글과 나쁜 글을 구별하지 못한다는 점이다. 그래서 모델마다 손상 검사를 함께 돌렸다. 사람이 쓴 산문 22편에 대한 예측이 원본 모델에서 얼마나 벗어나는지를 재는 drift, 지식을 확인하는 30문항 퀴즈, 소문자로 문장을 시작하거나 주제를 놓치는 출력을 잡는 규칙 기반 검사, 그리고 개발자 본인이 직접 읽는 표본 검토가 그것이다.

학습 방식은 증류다. 먼저 teacher 모델이 288개 훈련 프롬프트에 답하고, 검사를 통과한 답만 남겨 rank-16 LoRA가 빈 프롬프트만으로 그 답을 재현하도록 학습한다. 1차 결과는 프롬프트도 런타임 훅도 없이 20점대였다. 2차에서는 teacher에 신경 뉴런 4개를 건드리는 패치와 평문 스타일 프롬프트를 얹어 9.9점까지 내렸지만, 의견을 말하지 않는 오피니언, 존재하지 않는 연구 인용, 모든 문장을 ", which"로 잇는 새 버그가 생겼다. 원인은 teacher 프롬프트 자체가 문장을 접속사로 이으라고 지시한 것이었고, 두 차례 모방을 거치며 증폭됐다.

3차 teacher는 과제 수행을 앞세운 프롬프트를 받았다. 의견을 요구하면 입장을 밝히고, 개인적인 글은 1인칭으로 쓰고, 문장 길이를 변화시키고, 연구나 이름을 지어내지 말라는 식이다. 프롬프트마다 답을 3개씩 생성해 12점 미만이면서 손상 검사와 과제 검사를 모두 통과한 것만 채택했고, 약 30%가 살아남아 288개 중 161개 프롬프트를 커버했다. 이 답으로 학습한 것이 배포판이다. 점수는 9.9에서 12.5로 조금 올랐지만 과제 적합률은 80%로 회복됐고, 100단어당 ", which" 결합은 1.4회에서 0.3회로 줄었으며 조작된 연구·퍼센트 인용은 거의 사라졌다.

배포 형태는 세 가지다. 완전 정밀도 가중치는 transformers에서 일반 Qwen3-4B 체크포인트처럼 불러오면 되고, GGUF 양자화본은 Ollama와 llama.cpp 명령 한 줄로 실행된다. LoRA 어댑터(126MB)와 뉴런 편집(4개 가중치 열과 스케일을 담은 175바이트 목록)도 별도로 공개됐는데, 어댑터가 편집이 활성화된 상태에서 학습됐으므로 둘은 함께 써야 한다.

실무적으로 눈여겨볼 지점은 문체 교정이 추론 시점 비용을 없앴다는 것이다. 이전 실험에서는 모델 내부의 '어시스턴트 레지스터' 방향을 생성 중에 빼주면 점수가 15 근처까지 내려갔지만, 매 생성마다 프롬프트와 코드가 필요하고 일반 텍스트에 대한 예측까지 흔들렸다. 증류는 그 조작을 가중치 안에 구워 넣어 같은 효과를 런타임 부담 없이 얻는다. 개발자의 홈랩이 맥북 에어였다는 점도 주목할 만하다. 4B 모델과 161개 답으로 돌아간 레시피이므로 모델 크기에 종속되지 않는다.

한계도 분명하다. 목소리가 평평해서 개인적인 글은 일기처럼 읽히고, 연구나 퍼센트 인용은 줄었지만 인물과 지명은 여전히 지어낸다. 요청한 길이를 넘겨 "약 150단어"에 200단어 가까이 쓰는 일도 잦다. 검증 범위는 짧은 영어 산문에 한정되며 코드, 긴 대화, 다른 언어, 도구 사용은 원본보다 나을지 장담할 수 없다. 점수 자체가 개발자의 스타일 가이드를 정규식으로 옮긴 것이고 독자를 대상으로 한 블라인드 테스트는 아직 없으며, 같은 모델이 어댑터로는 10.2점, 병합 가중치로는 12.5점이 나오는 식으로 샘플링만으로도 수치가 흔들린다.

다음 단계의 핵심은 더 나은 teacher다. 각 학생 모델은 결국 teacher가 쓸 수 있었던 최고 답만큼의 수준에 도달했기 때문에, 개발자는 퍼블릭 도메인 에세이·편지와 현대적인 글을 모아 어시스턴트 학습을 거치지 않은 베이스 모델을 teacher로 세우려 한다. 그 teacher가 더 잘 쓰면 같은 레시피로 문체 습관뿐 아니라 취향까지 갖춘 학생이 나온다는 구상이다. 이후에는 7~8B와 30B 규모에 같은 파이프라인을 적용하고, 사람이 더 나은 글을 고르는 블라인드 테스트를 붙일 계획이다.