9router
무엇인가
9Router는 개발자 로컬에서 실행되는 LLM 라우팅 프록시이자 게이트웨이다. AI 코딩 도구와 모델 제공자 사이에 끼어, 도구는 엔드포인트 하나만 보고 제공자 선택·인증·쿼터 관리는 프록시가 맡는 구조를 만든다. JavaScript로 작성된 CLI 패키지이며 별도 클라우드 계정 없이 로컬 프로세스로 돈다.
어떻게 동작하나
실행하면 HTTP 서버가 20128 포트에 뜬다. 대시보드는 http://localhost:20128/dashboard, 모델 호출용 엔드포인트는 OpenAI 호환 규격인 http://localhost:20128/v1 이다. 제공자 연결은 두 갈래다. OAuth 방식(Claude Code, Antigravity, Codex, GitHub, Cursor, Kimchi)과 인증 없는 무료 제공자(Kiro AI, OpenCode Free, Vertex AI). 요청이 들어오면 구독 → 저가 → 무료 순으로 폴백하고, 제공자별 다중 계정은 라운드로빈으로 돌린다. RTK는 요청에 실리는 tool_result 내용(git diff, grep, ls 출력 등)을 압축해 토큰을 20~40% 줄인다.
무엇과 다른가
일반적인 게이트웨이는 여러 제공자를 한 엔드포인트로 묶는 데서 끝난다. 9Router는 라우팅 정책 자체를 기능으로 둔다. 구독 쿼터를 추적해 리셋 전까지 소진시키고, 한도에 닿으면 다음 제공자로 자동 전환하며, 같은 제공자의 여러 계정을 번갈아 쓴다. 토큰 절감은 모델 선택이 아니라 요청 본문 압축 계층에서 일어난다.
어떻게 쓰나
전역 설치 후 대시보드가 http://localhost:20128 에서 열린다. 대시보드 → Providers에서 Kiro AI나 OpenCode Free를 연결하면 가입 없이 바로 쓸 수 있다. 각 CLI 도구에서는 base URL을 http://localhost:20128/v1 로 지정한다. 저장소 패키지 자체는 private인 9router-app이라 소스 실행과 Docker 실행이 로컬 개발 경로다.
전제와 한계
무료 제공자 목록은 고정이 아니다. iFlow, Qwen Code, Gemini CLI 무료 티어는 2026년 중단됐고, Kiro AI는 2025년 9월 유료화되어 무료 50 크레딧/월(신규 계정 첫 30일 500 트라이얼 크레딧)로 제한된다. OpenCode Free의 모델 목록은 시점에 따라 달라진다. 라우팅을 쓰려면 로컬 서버 프로세스가 계속 떠 있어야 하고, CLI 도구가 base URL 변경을 지원해야 한다.
유사 도구
- gateway1,600개 이상 LLM과 40개 이상 가드레일을 하나의 OpenAI 호환 API로 중계하는 TypeScript 기반 AI 게이트웨이다. 재시도·폴백·로드밸런싱을 설정으로 처리한다.
- bifrost23개 이상 LLM 제공자를 하나의 OpenAI 호환 API로 중계하는 Go 기반 AI 게이트웨이다. 5천 RPS에서 요청당 11µs 오버헤드를 추가한다.
- headroomLLM에 도달하기 전에 도구 출력·로그·파일·RAG 청크를 압축해 토큰을 줄이는 Python 라이브러리 겸 로컬 프록시 겸 MCP 서버다.
- LLM-API-Key-ProxyOpenAI·Anthropic 호환 엔드포인트를 하나 띄워 여러 LLM 제공자를 provider/model 형식으로 중계하는 자체 호스팅 FastAPI 프록시다.
- plano에이전트 앱 앞에 세우는 AI 네이티브 프록시 서버 겸 데이터 플레인이다. Envoy 기반으로 LLM 라우팅·오케스트레이션·가드레일을 아웃오브프로세스에서 처리한다.
- rtk명령 출력을 LLM 컨텍스트에 넣기 전에 필터·압축해 토큰을 줄이는 Rust 단일 바이너리 CLI 프록시다. Bash 훅으로 명령을 가로채 필터를 적용한다.