Dify 구축해서 AI Chat Bot 노코드 개발하기

개요 및 배경

인공지능 chatbot 만들어야하는 일이 생겼다. 특정 캐릭터를 설정하여 chat bot 역할을 주고, 미리 작성한 세계관에 대하여 이야기를 나누고 답변이나 정답을 받아내야한다.

Dify

중국에서 만든 Agent 개발 플랫폼이다. Multi-tenant(테넌트) 기능은 Enterprise License 구매 후 이용 가능. DAG 방식으로 간단하게 agent를 구현 가능하다. 지식과 변수를 다룰 수 있다.

Dify 선택 이유

LangGraph + LangChain 보다 Dify 개발을 선택한 이유는 개발 속도가 매우 빠르다. 특히 테스트와 배포가 쉽다. 기술적인 지식이 없는 사람도 Agent 개발을 쉽게 할 수 있다. 내 경우에는 이게 중요했는데, 왜냐하면 실제 prompt 작성을 code 작성할 수 없는 사람이 수행하기 때문이다.
기능도 이모저모 많이 있고, 심지어 성능 측면에서도 LangChain 보다 나은 점도 있다. SSE(Server-Side Event) API 연동도 쉽게 할 수 있다. Monitoring Tool 까지 있으니, 단기간에 프로토타입 작성을 위해서 이보다 나은 선택은 없어보였다.

컴퓨팅 환경

Windows - RTX 3090 (VRAM 24GB, RAM 32GB)

Windows - SSL Router GTX 1080ti (VRAM 11GB, RAM 16GB)

Mac Book Pro M3 (통합 Memory 64GB)

Model 구성

qwen3:8b (System prompt - RTX 3090)
qwen3.5:35b (Mac Book Pro)

Dify 실행

실행은 간단하다.

Docker 설치가 필요하며, 이를 windows 상에서 사용하기 위해서는 BIOS 설정에서 SVM 기능을 enable 시켜줘야한다.

git clone https://github.com/langgenius/dify.git

cd docker

cp .env.example .env  # 그리고 .env 파일을 설정해준다.

docker compose up -d

 

Tip

chatbot, workflow, chat workflow가 있다. 일단 chatbot 생성해서 prompt+knowledge 입력해보는게 좋다.

이후 workflow 전환하여 node 구조를 보고 조금씩 추가하며 다듬어나가는게 좋다.