tabby
무엇인가
Tabby는 자체 호스팅 AI 코딩 어시스턴트다. 클라우드 SaaS로 코드 자동 완성과 채팅을 제공하는 GitHub Copilot이 차지하는 자리를 사내 서버로 옮긴다. Rust로 작성된 서버와 IDE 확장 두 부분으로 나뉘고, 코드 완성·인라인 편집·채팅·Answer Engine을 같은 서버에서 처리한다.
어떻게 동작하나
Tabby 서버가 모델 추론을 직접 수행하고 OpenAPI 규격의 HTTP 인터페이스를 노출한다. VSCode·Vim·IntelliJ(JetBrains) 확장이 이 API를 호출해 완성 후보와 채팅 응답을 받는다. DBMS나 클라우드 서비스에 의존하지 않으며, 데이터는 서버가 지정한 로컬 볼륨에 남는다. 완성 품질을 위해 저장소 수준 문맥을 검색해 프롬프트에 넣는 RAG 방식을 쓰고, v0.30에서 GitLab Merge Request를 문맥으로 인덱싱하는 기능이 추가됐다. Answer Engine은 사내 문서를 REST API로 등록받아 답변 근거로 쓰고, 그 결과를 Pages로 저장·공유한다.
무엇과 다른가
GitHub Copilot은 코드가 외부로 나가고 사용량이 구독으로 과금된다. Tabby는 추론이 사내 GPU에서 끝나며 소비자용 GPU에서도 동작한다. OpenAPI 인터페이스를 공개하므로 Cloud IDE 같은 기존 인프라에 붙일 수 있다. 모델은 공식 레지스트리에서 골라 교체할 수 있고, Codestral·CodeGemma·CodeQwen·CodeLlama·StarCoder 계열이 등록되어 있다.
어떻게 쓰나
Docker로 서버를 띄우고 IDE 확장을 설치해 서버 주소를 지정하는 순서로 시작한다. 추론 방식과 병렬도 같은 옵션은 설정으로 조정한다. 소스에서 빌드할 때는 서브모듈을 먼저 받고(git submodule update --recursive --init) Rust 툴체인과 의존성을 설치한 뒤 cargo build를 실행한다.
전제와 한계
자체 호스팅이므로 추론을 감당할 GPU와 운영 주체가 필요하다. 모델은 공식 레지스트리에 있는 것만 쓸 수 있고, 저장소 문맥 인덱싱과 Answer Engine은 별도 설정과 데이터 등록이 선행되어야 한다. LDAP 인증, GitLab SSO, 자체 호스팅 GitHub/GitLab 연동은 버전별로 추가된 기능이라 사용하는 릴리스에 따라 지원 범위가 다르다.
유사 도구
- octocode로컬 코드와 GitHub 저장소를 ripgrep·AST·LSP로 검색해 AI 에이전트에 토큰 효율적인 근거 컨텍스트를 돌려주는 Rust 엔진 기반 CLI·MCP 서버다.
- nanobot파이썬으로 작성된 초경량 자체 호스팅 개인 AI 에이전트 런타임이다. WebUI·터미널·메신저에서 돌며 도구, 장기 기억, MCP, 예약 자동화를 하나의 코어에 묶는다.
- tensorzeroLLM 게이트웨이·관측성·평가·최적화·실험을 하나의 자체 호스팅 서버로 묶은 Rust 기반 LLMOps 플랫폼이다.
- warp터미널에서 출발한 에이전트 개발 환경으로, 내장 코딩 에이전트와 Claude Code·Codex·Gemini CLI 등 외부 CLI 에이전트를 같은 창에서 실행한다.
- OpenHands여러 코딩 에이전트를 로컬·원격·클라우드 백엔드에 연결해 한 화면에서 실행하고 자동화하는 셀프호스팅 제어 센터다.
- open-webuiOllama와 OpenAI 호환 API를 하나의 웹 화면으로 묶는 셀프 호스팅 AI 플랫폼이다. 플러그인·RAG·RBAC를 내장하고 완전 오프라인 실행을 지원한다.