dify
무엇인가
Dify는 LLM 애플리케이션을 개발하고 운영하는 오픈소스 플랫폼이다. 모델 API를 호출하는 SDK가 아니라, 프롬프트 작성부터 워크플로 실행, 검색 증강, 에이전트 구동, 로그 수집, 외부 API 노출까지를 하나의 협업 워크스페이스에 묶는다. 프로토타입 단계와 프로덕션 단계가 같은 스택을 공유하도록 설계됐고, 클라우드·VPC·셀프호스팅 세 가지 배포 형태를 지원한다.
어떻게 동작하나
동작은 시각 캔버스 중심이다. 워크플로를 노드 그래프로 구성하고 그 자리에서 실행·테스트한다. RAG 파이프라인은 문서 수집에서 검색까지를 담당하며 PDF, PPT 등 일반 문서 포맷에서 텍스트를 추출한다. 에이전트는 LLM Function Calling 또는 ReAct 방식으로 정의하고, Google Search·DALL·E·Stable Diffusion·WolframAlpha 같은 내장 도구나 사용자 정의 도구를 붙인다. 모델 계층은 OpenAI API 호환 모델을 포함한 여러 추론 제공자와 자체 호스팅 모델을 연결한다. 실행 로그와 성능 지표는 LLMOps 화면에서 추적하며 Opik, Langfuse, Arize Phoenix로 관측 데이터를 내보낸다.
무엇과 다른가
일반적인 LLM 프레임워크는 파이프라인을 코드로 조립하고 서빙·인증·로그·평가·UI를 각각 직접 붙여야 한다. Dify는 그 뒷부분을 플랫폼이 흡수한다. 모든 기능에 대응하는 API가 함께 제공되어(Backend-as-a-Service) 워크스페이스에서 만든 앱을 자체 서비스 로직에서 호출할 수 있다. 프레임워크를 대체한다기보다 그 위에 얹히는 운영 계층에 가깝다.
어떻게 쓰나
가장 빠른 시작 경로는 Docker Compose다. 서버를 띄운 뒤 브라우저에서 http://localhost/install 로 접속해 초기화를 진행한다. 이후 대시보드에서 앱을 만들고, 프롬프트 IDE에서 프롬프트를 작성·비교하며, 워크플로 캔버스에서 노드를 연결한다. 완성된 앱은 REST API로 외부에 노출된다. 클라우드 버전은 설치 없이 사용할 수 있고 샌드박스 플랜에 GPT-4 호출 200회가 포함된다.
전제와 한계
최소 시스템 요구 사항은 CPU 2코어, RAM 4GiB다. Docker와 Docker Compose v2.24.0 이상이 설치돼 있어야 한다. 라이선스는 Apache 2.0을 기반으로 추가 조건을 붙인 Dify Open Source License다. 보안 이슈는 GitHub에 공개하지 말고 [email protected]로 보고해야 하며, 엔터프라이즈 전용 기능은 별도 문의로 제공된다.
관련 논문 5
유사 도구
- FastGPTLLM 위에 지식베이스 RAG 검색과 시각적 워크플로 편집을 얹어 질의응답 시스템을 구성하는 TypeScript 플랫폼이다.
- onyxLLM 애플리케이션 계층으로, RAG·웹 검색·코드 실행·에이전트를 갖춘 셀프호스팅 AI 채팅 플랫폼이다. 50개 이상 커넥터로 사내 데이터를 색인한다.
- ragflow비정형 문서를 파싱·청킹해 검색 증강 생성 파이프라인과 에이전트 워크플로를 한 엔진에서 돌리는 오픈소스 RAG 서버다.
- langflowLLM·벡터 DB·도구를 노드로 연결해 에이전트 플로우를 시각적으로 만들고, 이를 REST API나 MCP 서버로 배포하는 Python 플랫폼이다.
- MaxKBRAG 파이프라인과 워크플로 엔진, MCP 도구 호출을 묶어 기업용 에이전트를 만드는 Python/Django 오픈소스 플랫폼이다.
- Langchain-ChatchatLangChain 위에 지식베이스 검색과 Agent를 얹어 오픈소스 LLM만으로 오프라인 질의응답을 구성하는 Python 애플리케이션이다.