neozest : neo+zest

사내 프로세스 혁신 도구로서의 가능성을 점검해 보다.

1/ 꽤 오래전(이래봤자 올해 초였을 것 같은데) 지인들 모임에서 Dify.AI 에 대한 이야기를 나눴다. 당시만 해도 '디파이'라고 하면 탈중앙화 금융을 일컫는 DeFi가 먼저 떠오르던 시절이다. 지금도 크게 다르지 않다. 이런 현실 속에서도 LLM이 현업 프로세스 혁신의 영역으로 점점 가까이 다가오면서 드디어 우리나라에서도 Dify를 다루는 책이 나왔다. 나 역시 슬쩍슬쩍 곁눈질하던 터라, 이번 기회에 책을 읽으면서 Dify의 지향점과 현재 상태를 점검해 보고 싶었다.

2/ <Dify AI, 코드 없는 미래>는 번역서가 아니라 국내 엔지니어가 집필한 책이다. 국내에서 Dify에 관한 책을 누가 적을 수 있을까 했는데, 김정욱 저자님은 태디노트님과 함께 국내 AI 도입의 최전선에서 활동하시는 분이었다. 일단 브레인크루 멤버라는데서 +1.

3/ Dify는 대화형 AI 애플리케이션과 AI Agent를 손쉽게 만들 수 있도록 설계된 노코드 플랫폼이다. 정의야 어떻게 되었든 나의 관심사는 명확하다. AI를 이용하여 사내 프로세스를 개선하는, 이른바 PI(Process Innovation)활동에 이 도구를 적용할 수 있는가 하는 점이다. 

이 책은 다음과 같이 구성되어 있다.

1장: LLM/AI에 대한 일반적인  이해

2장: LLM에서 원하는 결과를 도출하기 위한 프롬프트 작성법

3장: 정보의 정확성을 올리기 위한 RAG 시스템

4장: 궁극적으로 우리가 원하는 에이전트의 가능성 옅보기

5장: 실제 워크플로 개선에 사용할 수 있는지 여부 살펴보기

6장:  이전 내용을 종합한 실습 프로젝트를

Dify가 뭔지, 어떤 작업을 수행할 수 있는지 이해도를 높이기에 충분한 구성이다.

4/ 기술 격동의 시절이다. 어떤 도구를 선택하는지가 이른바 엔지니어의 몸값에도 영향을 준다. Dify... 이 책을 읽으면서 다뤄본 Dify는 아직은 아쉬움이 많이 남는 플랫폼이다. 코드를 작성할 수 있는 개발자라면 n8n이 더 유용하고, 코드와 거리가 먼 사용자라면 사용자라면 구글의 Opal 서비스나 Agentspace같은 서비스가 더 와닿지 않을까 싶다. 결국 Dify가 강점을 가질 수 있는 부분은 구매냐 구축이냐(Buy vs Build)의 고민에서 구축을 선택했을 때 제시할 수 있는 대안이라는 점이다.

5/ 사내에서 이미 n8n을 활용하고 있는데, Dify도 사용할 수 있게 호스팅해달라고 요청했다. 클라우드 서비스에 가입해서 잠깐 사용해 보긴 했지만,  사내에 직접 구축해서 충분히 사용해 봐야 정확한 판단을 내릴 수 있을 것 같다. Opal의 최대 단점은 기업 환경에서 사내 시스템과의 연동이 힘들다는 것인데, Dify는 Opal과 같은 시스템을 사내에 구축하고, 이를 MCP를 통해 다른 사내 시스템과 연동할 수 있겠다는 가능성이 보인다. 다만 관건은 얼마나 사용자들이 부담스럽지 않게 접근할 것인가인데, 결국 이 작업을 LLM의 도움을 받아 코드를 작성하지 않고도 수행할 수 있느냐가 핵심이 될 것이다.

6/ Dify. 비전은 훌륭하고 빠른 속도로 진화하고 있지만, 갈 길이 멀어 보인다. 하지만 어떠하랴. 오픈소스의 비전이라는게 원래부터 그런것 아니었나. AI 서비스, 특히 사내 서비스 도입/구축을 고민하시는 분들이 읽으면 도움이 되는 내용이 많다.

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

한빛에서 나온 'AI 프로덕트 기획과 운영'(원제 Building AI-powered Products)의 핵심 키워드는 'AI PM'이다.

요즘 거의 모든 도메인에서, 거의 모든 제품에 AI 기능이 탑재된다. 때로는 챗봇의 형태로, 떄로는 RAG로, 때로는 콘텐츠 생성자로서의 역할을 수행한다. 이런 제품을 만들어 시장에서 반응을 얻으려면 어떻게 해야 할까? 특히 프로덕트의 방향성을 설정하는 PM은 어떤 마인드셋으로 어떤 도구를 활용해서 제품을 시장에 내놓아야 하는가에 대한 제품 관리자의 고민을 정리한 책이다.

사실 처음에는 AI PM이라는 단어에 거부감이 들었다. 뭘 또 그렇게까지 세부 카테고리를 나누려고 하는가라는 생각이 먼저 들었다. 그런데 책을 읽어가면서 저자의 주장에 조금씩 동의를 할 수 밖에 없었는데, 기존 제품과 달리 AI제품은 확률적이면서도 데이터 의존적이면서 지속적인 학습 및 최적화 프로세스가 갖춰져야 한다는 차이가 있기 때문이다. 

이 책은 AI 제품을 만들어내야 하는 신입 PM이든 아니면 기존 PM경력을 가진 사람이 AI 제품을 만들어 낼 때 기본 참고서로 마인드셋과 고민을 정리하기엔 적당한 책이다.시간과 자본이 무한대로 주어진다면야 큰 차이 없겠지만, 제약된 리소스를 가지고 어떻게든 시장의 반향이 있을 제품을 만들어내야 하는 것이 PM의 숙명이다. 그때 함께 고민을 해주는 선임의 이야기가 책에 담겨 있다.

내가 읽으면서 가장 마음에 들었던 부분은 75쪽에 실린 그림 3-1 AI PM이 갖추어야 할 다양한 역량 표이다. AI 제품을 만드는 개발자, AI 제품을 기획하는 분들이 일독하면서 의견을 나눠 보면 좋겠다.