올모델스가 검열 해제 모델 라우터로 DeepSeek 5개 추론 경로를 묶는다

올모델스가 검열 해제(abliterated) 계열 모델을 한곳에서 호출하는 Abliterated Model Router를 공개했다. 핵심은 DeepSeek V4.1 Flash Abliterated처럼 여러 추론 제공자가 나눠 서빙하는 모델을 단일 API로 묶는 것이다. 이번 라우터에서 해당 DeepSeek 모델은 5개 추론 제공자 경로로 서빙된다.

개발자는 기존 OpenAI 클라이언트와 유사한 방식으로 접근한다. baseURL은 https://api.allmodels.io/oai이고, 모델 ID는 deepseek/deepseek-v4.1-flash-abliterated 형태다. API 키를 환경변수로 넣고 Responses API의 input과 output_text를 쓰는 예시도 제시됐다. 채팅 메시지, 스트리밍, 함수 도구, 구조화 출력, 추론 제어, 호스팅 웹 검색 같은 기능을 OpenAI 호환 스키마에서 다룬다.

라우팅은 제공자 차이를 감추는 데 초점이 있다. DeepSeek와 GLM 5.3 Abliterated 배포는 여러 제공자가 하나의 공개 모델 ID를 공유한다. 기본 폴백 경로를 쓰거나, 가격·한도가 중요할 때 특정 제공자를 직접 고를 수 있다. 텍스트 요청은 대체 가능한 텍스트 경로 풀에 들어가고, 이미지·멀티모달 요청은 실제로 해당 입력을 처리할 수 있는 제공자로만 보내진다.

제공자 장애 대응도 라우터가 맡는다. 특정 제공자가 과부하이거나 용량이 부족하면 같은 모델의 다음 호환 경로로 자동 전환한다. 애플리케이션 코드나 모델 ID를 바꾸지 않아도 된다는 설명이다. 새 제공자가 들어와 가격이 내려가면 조건을 만족하는 최저가 옵션으로 보내는 라우팅도 가능하다고 한다.

웹 검색은 추론 제공자가 아니라 올모델스 계층에서 처리된다. 검색을 지원하지 않는 제공자 뒤에 있는 모델도 동일한 OpenAI 호환 검색 호출과 URL 인용을 받는다. tools에 web_search를 넣고 search_context_size를 medium으로 지정하는 방식이 예시로 제시됐다.

배경은 검열 해제 모델의 공급이 늘면서 같은 모델을 여러 독립 제공자가 서빙하는 구조가 생긴 점이다. 제공자마다 가격, 처리 한도, 가용성, 멀티모달 지원이 달라 개발자는 연동을 자주 고쳐야 한다. 올모델스는 DeepSeek와 GLM을 시작으로 카탈로그를 넓히며 이런 파편화를 라우팅 계층에서 흡수하려 한다.

실무에서는 OpenAI SDK 호환 호출을 유지한 채 제공자 선택과 폴백을 뒤로 미룰 수 있다. 특정 제공자의 장애나 가격 변동에 대응하려고 별도 어댑터를 만들 필요가 줄고, 텍스트와 이미지 요청의 경로 제약도 라우터가 나눠 처리한다. 검색 기능을 제공자별로 따로 붙이지 않아도 같은 인터페이스를 쓸 수 있다는 점도 장점으로 제시된다.

다만 이번 자료는 제품 소개 성격이 강하다. 보안 강화 API라고 표현하지만 인증, 감사 로그, 데이터 보존, 제공자별 정책 차이에 대한 구체적 내용은 확인되지 않는다. 검열 해제 모델 자체의 안전성·사용 정책 검토도 별도로 필요하다. 서비스의 SLA나 실제 5개 제공자의 가용성·가격은 도입 전에 확인해야 한다.