클로드 코드가 특정 게임 재현을 막는 규칙을 서버에서 밀어넣었다

Hacker News어제

코딩 에이전트 클로드 코드에 게임 제작 범위를 제한하는 규칙이 추가됐다. 핵심은 특정 기존 게임을 그대로 다시 만드는 작업을 막겠다는 것이다. 문제는 이 규칙이 사용자가 켜고 끄는 설정 항목이 아니라, 모델 제공사 서버에서 내려오는 지시문 형태로 들어온다는 점이다.

시점은 10월 27일경으로 전해진다. 규칙은 'tengu_heron_brook'이라는 이름의 플래그를 통해 전달되며, 클로드 코드 쪽에서 이를 비활성화할 수단은 없는 것으로 알려졌다. 사용자가 버전을 되돌리거나 설정 파일을 고쳐도 서버가 보내는 지시가 우선한다는 뜻이라, 동작이 바뀐 사실을 알아채기 어렵다.

규칙이 허용하는 범위는 비교적 넓다. 완전히 새로운 게임, 특정 장르의 관습을 따르는 게임, 사용자가 직접 설계하고 만든 에셋으로 구성한 게임은 문제가 없다. 반대로 특정 기존 게임을 재현하는 것은 금지 대상이다. 이름을 바꾸거나 독자적인 기획이라고 포장해도 예외로 두지 않는다는 문구가 명시돼 있다.

왜 이런 규칙이 들어왔는지에 대한 공식 설명은 확인되지 않는다. 공지나 릴리스 노트가 아니라 서버 측 플래그로 조용히 배포됐다는 점이 논의의 초점이다. 코딩 에이전트가 파일을 생성하고 고치는 방식으로 게임 한 편을 통째로 만들어내는 사례가 늘어난 상황에서, 기존 작품의 재현 요청을 어디까지 허용할지가 정책적으로 민감한 주제였다는 해석이 나온다.

실무에서 영향이 큰 쪽은 게임 클론 제작과 모딩이다. 학습이나 프로토타이핑을 목적으로 유명 게임의 메커니즘을 그대로 옮기는 작업을 에이전트에 맡겨온 팀이라면, 같은 프롬프트가 이제 거부되거나 다른 결과를 낼 수 있다. 반면 장르적 문법을 참고해 새 규칙을 설계하는 용도는 그대로 쓸 수 있어, 요청을 어떻게 서술하느냐에 따라 결과 편차가 커질 전망이다.

반응은 곱지 않다. 오픈소스로 풀린 검열 제거 계열 모델로 옮겨 갈 것이라는 예측이 나왔고, 언젠가 컨텍스트 창이 금지 조항과 신고 지시로 가득 차는 것 아니냐는 조롱도 붙었다. 모델이 코드를 짜주는 도구를 넘어 무엇을 만들어도 되는지까지 판단하는 쪽으로 이동하는 것에 대한 거부감이 깔려 있다.

주의할 점도 분명하다. 이번 내용은 개인 게시물을 출발점으로 한 것으로, 앤트로픽이 규칙의 적용 범위나 위반 시 처리 방식을 문서로 밝혔는지는 확인되지 않았다. '이름만 바꿔도 안 된다'는 조항은 결국 모델의 판단에 맡겨질 수밖에 없어, 어디까지가 장르적 참고이고 어디부터가 재현인지에 대한 경계는 여전히 모호하다. 게임 제작을 에이전트에 맡기는 팀이라면 결과물이 갑자기 달라지는 상황을 전제로 작업 로그를 남겨두는 편이 안전하다.