개요 및 배경
인공지능 chatbot 만들어야하는 일이 생겼다. 특정 캐릭터를 설정하여 chat bot 역할을 주고, 미리 작성한 세계관에 대하여 이야기를 나누고 답변이나 정답을 받아내야한다.
Dify
중국에서 만든 Agent 개발 플랫폼이다. Multi-tenant(테넌트) 기능은 Enterprise License 구매 후 이용 가능. DAG 방식으로 간단하게 agent를 구현 가능하다. 지식과 변수를 다룰 수 있다.
Dify 선택 이유
LangGraph + LangChain 보다 Dify 개발을 선택한 이유는 개발 속도가 매우 빠르다. 특히 테스트와 배포가 쉽다. 기술적인 지식이 없는 사람도 Agent 개발을 쉽게 할 수 있다. 내 경우에는 이게 중요했는데, 왜냐하면 실제 prompt 작성을 code 작성할 수 없는 사람이 수행하기 때문이다.
기능도 이모저모 많이 있고, 심지어 성능 측면에서도 LangChain 보다 나은 점도 있다. SSE(Server-Side Event) API 연동도 쉽게 할 수 있다. Monitoring Tool 까지 있으니, 단기간에 프로토타입 작성을 위해서 이보다 나은 선택은 없어보였다.
컴퓨팅 환경
Windows - RTX 3090 (VRAM 24GB, RAM 32GB)
Windows - SSL Router GTX 1080ti (VRAM 11GB, RAM 16GB)
Mac Book Pro M3 (통합 Memory 64GB)
Model 구성
qwen3:8b (System prompt - RTX 3090)
qwen3.5:35b (Mac Book Pro)
Dify 실행
실행은 간단하다.
Docker 설치가 필요하며, 이를 windows 상에서 사용하기 위해서는 BIOS 설정에서 SVM 기능을 enable 시켜줘야한다.
git clone https://github.com/langgenius/dify.git
cd docker
cp .env.example .env # 그리고 .env 파일을 설정해준다.
docker compose up -d
Tip
chatbot, workflow, chat workflow가 있다. 일단 chatbot 생성해서 prompt+knowledge 입력해보는게 좋다.
이후 workflow 전환하여 node 구조를 보고 조금씩 추가하며 다듬어나가는게 좋다.
'AI' 카테고리의 다른 글
| 이미지 기반 도마뱀 가격 제안 학습 (1) | 2026.04.22 |
|---|---|
| Cursor 17개월 사용기 (0) | 2026.02.26 |
| OpenClaw 구축 - Local Model 설정 (0) | 2026.02.26 |
| [Stable Diffusion] 피사체 활용 T-shirts Logo 및 Mock-up 개발 후기 (0) | 2025.11.22 |