Anthropic이 METR 연구진 6명에게 사내 직원급 접근 권한을 연다

Anthropic이 자사 모델과 안전 체계를 외부 연구진이 직접 들여다볼 수 있도록 문을 열었다. 비영리 평가기관 METR 소속 연구자 6명에게 사내 직원과 사실상 같은 수준의 접근 권한을 부여하는 내용으로, 회사 블로그를 통해 공개됐다.

권한의 범위는 구체적이다. METR 연구진은 Anthropic이 지급한 회사 노트북과 사무 공간을 받았고, Anthropic 내부 위험 평가 조직이 쓰는 것과 비슷한 수준의 내부 도구를 사용할 수 있다. 회사는 구성원들에게 정렬 위험을 다루는 동료에게 정보를 공유하듯 METR 연구진에게도 정보를 공유하라고 권고하고 있다.

가장 눈에 띄는 대목은 편집권이다. METR은 Anthropic의 위험·사고·관행에 대한 자체 평가 결과를 스스로 공개하며, Anthropic은 이를 막을 권리를 포기했다. 다만 고객 데이터, 변호사-의뢰인 특권이 걸린 정보, 모델 아키텍처 관련 정보 등 사전에 좁게 정의된 범주에 한해 삭제를 요구할 수 있다. METR은 어떤 부분이 삭제됐는지, 그 삭제가 정당했다고 보는지를 삭제된 내용 자체를 밝히지 않는 선에서 공개적으로 논평할 수 있다.

Anthropic은 이번 구도를 은행 감독 방식에 빗댔다. 대형 은행에 규제 당국이 상주 검사관을 파견하는 것과 같은 구조라는 설명이다.

평가자 접근 수준은 3단계로 나뉜다. 최하위 단계는 생물보안 비영리단체 SecureBio처럼 좁은 범위의 검토만 수행하고 결과를 공개하려면 회사 승인을 받아야 한다. 중간 단계는 더 많은 정보를 받고 승인 없이 공개할 수 있으며, 최상위 단계에 METR의 직원급 접근이 더해진다. 현재 최상위 단계에 오른 평가자는 METR이 유일하다.

이번 결정은 최근 몇 달간 이어진 AI 에이전트의 통제 이탈 사례와 무관하지 않다. 8월 말 이후로 에이전트가 지시 범위를 벗어나 행동한 사건이 한두 주 간격으로 공개되면서 AI 기업에 대한 독립적 검증 요구가 커졌다. Anthropic은 의사결정에 대해 공개적으로 책임을 지겠다는 취지를 밝히고, 평가자가 프런티어 AI 기업의 시스템에 대해 이해하는 범위와 회사 자신이 이해하는 범위 사이의 격차를 좁히는 것이 목표라고 설명했다.

이번 발표는 다리오 아모데이 CEO가 9월 에세이에서 제안한 구상의 이행이기도 하다. 그는 외부 평가자를 AI 연구소 내부에 상주시키는 것을 기술 개발 속도를 늦추기 위한 첫 단계로 제시했고, OpenAI도 곧 같은 방침을 약속했다. 이후 OpenAI와 Anthropic, 구글, 메타, 엔비디아, xAI는 독립적 검토를 약속하는 백악관 협약에 서명했다.

개발자 입장에서는 두 갈래로 읽힌다. 프런티어 모델을 쓰는 쪽이라면 모델의 위험 프로필과 사고 이력에 대한 외부 평가 보고서가 공개 자료로 쌓이게 된다. 벤더를 고르거나 규제 대응 문서를 준비할 때 참고할 근거가 늘어난다는 뜻이다. 평가 자체를 만드는 쪽이라면 사내 위험 평가 조직과 동급의 도구·데이터 접근을 외부인이 쓴다는 사실이 중요하다. 평가 파이프라인과 로그·텔레메트리 체계가 외부 감사 가능한 형태로 정리돼야 한다는 요구로 이어질 수 있다.

한계도 분명하다. 삭제 요구 범주가 좁게 정의돼 있다고는 하지만, 그 범주에 무엇이 들어가는지를 판단하는 주체는 결국 회사다. METR이 삭제의 정당성을 공개적으로 문제 삼을 수 있다는 점이 견제 장치이긴 하나, 정보 자체가 가려진 상태에서는 외부 독자가 검증하기 어렵다. 최상위 접근 등급에 현재 METR 한 곳만 올라와 있어, 한 기관의 평가 역량과 판단에 의존하는 구조라는 점도 남는 문제다.