ONEDEV

locally-uncensored

Local AI RunnersIDETypeScript

★ 1,597주당 +107조회 6

무엇인가

TypeScript로 작성된 데스크톱 애플리케이션으로, 로컬 추론 엔진과 이미지 생성 백엔드, 코딩 에이전트를 하나의 창에 통합한다. 채팅 UI 한 축에 머무는 LM Studio나 Open WebUI의 자리를 채팅·이미지·영상·코드·에이전트 도구까지 포함하는 스튜디오로 대체하는 위치에 있다. AGPL-3.0 라이선스로 Windows와 Linux 설치 파일을 배포한다.

어떻게 동작하나

첫 실행 마법사가 이미 실행 중인 추론 엔진을 탐색한다. Ollama, LM Studio, vLLM, KoboldCpp, llama.cpp, LocalAI, Jan, TabbyAPI, GPT4All, Aphrodite, SGLang, TGI, LiteLLM, text-generation-webui를 감지하고, 없으면 자체 LU Engine을 설치한다. 모델 관리자는 하드웨어에 맞는 모델을 표시하고 한 번의 클릭으로 내려받으며, 기존 도구가 보관 중인 모델 파일은 복사하지 않고 링크한다. 이미지와 영상은 앱이 직접 설치·기동·복구·갱신하는 ComfyUI가 처리하고, 노드 그래프 대신 레인 단위 UI를 노출한다. 설정의 Local API는 모든 로컬 모델을 토큰 뒤의 OpenAI 호환 주소 하나로 묶는다. 프로젝트별 규칙은 .lurules 파일에 둔다.

무엇과 다른가

엔진을 하나로 고정하지 않는다는 점이 번들형 실행기와 갈린다. 이미 설치된 엔진을 그대로 쓰고 모델 저장소를 공유한다. Open WebUI가 서버와 Docker 배포를 전제로 하는 것과 달리 설치 파일 하나로 끝나며 터미널과 설정 파일을 요구하지 않는다. 텍스트 생성에 집중하는 SillyTavern이나 KoboldCpp의 영역까지 포함해, 같은 모델 목록으로 채팅·이미지·영상·코딩 탭을 오간다.

어떻게 쓰나

Releases에서 최신 NSIS 설치 파일을 받아 실행한다. 첫 실행에서 엔진과 ComfyUI 설치를 마치고 모델 관리자에서 하드웨어에 맞는 모델을 고른 뒤, Chat·Create·Code·Agent 탭을 한 창에서 전환한다. 개발 모드는 Windows의 setup.bat, Linux와 macOS의 setup.sh가 Node, Git, Ollama를 부트스트랩한다. 코딩 도구 연동은 설정의 Local API 주소와 토큰을 쓰고, 프로젝트 루트의 .lurules로 규칙을 지정한다. 휴대폰 접속은 LAN 또는 Cloudflare 터널을 켜고 QR 코드와 패스코드로 페어링한다.

전제와 한계

설치 파일은 서명되지 않은 NSIS라 일부 백신이 오탐을 낸다. 업데이트 채널은 공개 minisign 키로 서명되고, 빌드는 master의 공개 소스에서 GitHub Actions로 만든다. Upscale과 Erase Object 두 레인은 클라우드에서만 동작한다. GLM 5.3의 최소 로컬 양자화는 217GB로 데스크톱에서는 클라우드 영역이고 Kimi K3는 더 크다. 로컬 모드에는 계정과 사용량 제한, 텔레메트리가 없고 앱은 GitHub에서 업데이트를 확인한다. 클라우드 모델과 무거운 Create 레인은 선택적 LU Labs Cloud 계정을 요구한다.

관련 논문 4

유사 도구