Revolut, 2천 명 코딩을 자체 호스팅 GLM으로 옮기고 프런티어 API를 예외로 돌린다

핀테크 기업 Revolut이 사내 엔지니어 약 2,000명의 코딩 작업을 자체 호스팅 오픈 웨이트 모델 GLM 기반으로 재편했다. 외부 API로 쓰던 Claude Code와 Codex는 기본 경로에서 빠져 예외 승인 목록으로 밀려났다는 것이 요지다. AI 운영을 이끄는 David Abitbol의 설명을 인용한 X 게시물이 이번 전환을 알렸다.

규모는 Nvidia B200 56대로 제시됐다. 이 구성에서 백만 토큰당 혼합 단가를 30센트 수준으로 계산했고, 이는 Anthropic과 OpenAI에 지불하던 금액의 약 10분의 1에 해당한다는 설명이다. 함께 붙은 숫자는 엔지니어링 리드 타임 70% 개선이다.

주목할 지점은 모델 성능 비교가 아니라 토큰을 아끼지 않게 됐다는 변화다. 단가가 충분히 낮아지면 엔지니어들은 어려운 티켓에만 AI를 배분하던 습관을 버리고 자잘한 작업까지 전부 모델에 넘기게 된다. 게시물은 실제 이득이 그 지점에서 나타났다고 전한다.

이 흐름을 요약하면 프런티어 모델은 예외, 오픈 웨이트는 기본값이다. 상용 API 단가가 매출 구조의 핵심인 모델 기업 입장에서는 불편한 신호일 수밖에 없다. 같은 맥락에서 "청구서가 90% 줄어든다면 팀을 프런티어 API에서 옮기겠느냐"는 질문도 던져졌다.

개발자 관점에서 달라지는 것은 도구 선택의 기준이다. 최고 성능 모델 한 개를 골라 아껴 쓰는 방식보다, 평범한 작업은 저렴한 자체 모델에 맡기고 정말 어려운 문제만 상용 모델로 에스컬레이션하는 계층 구조가 현실적인 대안으로 부상한다. 코드 생성 품질이 조금 낮아도 반복 호출과 넓은 적용 범위에서 되돌아오는 이득이 더 클 수 있다는 계산이다.

다만 근거의 성격은 분명히 해둘 필요가 있다. 공식 보도자료가 아니라 개인 게시물을 통해 알려진 내용이며, 56대 규모 GPU 클러스터의 실제 운영 비용은 수치에 제대로 반영되지 않았을 수 있다. 반응 중에는 그 규모의 장비를 건강하게 유지하는 데 사람이 얼마나 필요한지가 진짜 절감액을 결정한다는 지적도 나왔다.

품질 논쟁도 남는다. 숙련 엔지니어에게는 체감 차이가 미미하고 주니어 단계에서 차이가 두드러진다는 경험담이 있었고, 반대로 코드가 저렴해진 것인지 나빠진 것인지 물어야 한다는 반문도 붙었다. 벤치마크 몇 점 차이를 어떻게 해석할지는 결국 팀이 어떤 작업에 모델을 쓰느냐에 달려 있다.

결론적으로 이 사례가 던지는 질문은 모델 순위가 아니다. 토큰을 rationing(배분 제한)하는 순간 AI 활용의 총량이 줄어든다는 사실, 그리고 그 총량을 늘리는 가장 싼 방법이 무엇인지다. 자체 호스팅이 답인지는 클러스터 운영 인력과 장애 대응 체계까지 포함한 총비용으로 따져야 한다.