neozest : neo+zest

1/ 운좋게도 조만간 길벗에서 나올 <제로클릭>의 샘플북을 받아서 미리 읽어볼 기회를 가졌다. 제로클릭이란 검색 결과 페이지에서 세부적인 검색 결과 항목은 클릭하지 않고, AI에 의해 요약된 내용만으로 검색 행동을 종료하는 것을 말한다.  어느 순간부터 AI 요약만 보고, 페이지 아래에 표시되는 이른바 블루 링크를 클릭하지 않는 내 모습을 자각하게 되었다. 그러면서 다른 분들도 비슷한 형태로 사용하지 않을까 하는 생각에 걱정이 생겼다. 검색 최적화를 공부할 때 '검색되지 않으면 세상에 존재하지 않는 것'이라는, 조금은 과격한 문장을 본 적이 있다. 같은 맥락에서 AI에 의해 요약된 검색 결과에  우리가 만든 서비스나 제품이 포함되지 않는다면 어떡하지 라는 두려움때문이다.

2/ 흔히 AI라 불리는 LLM은 두가지 행동을 잘한다. 문장을 지어내거나, 기존 문장을 읽고 요약/정리하는 것. 그렇게 보면 검색에서 AI 요약은 피할 수 없는 대세이기도 하다. 그러니 구글도 AI 요약을 제공하고, 챗GPT의 개발사인 OpenAI도 다음 공략대상 중 하나는 커머스라고 정하면서 쇼핑 기능을 시연하는 상황이다. 그러면 결국 우리가 고민해야 하는 지점은 각 AI 서비스에게(또는 그 대리인인 에이전트에게) 우리 서비스나 제품이 좀 더 신뢰성있고 괜찮다는 것을 어떻게 인식시킬 것인지에 대한 방법일 것이다. SEO에 대응하는 무언가가 필요한데, 이 책에서는 GEO(Generative Engine Optimization)을 이야기한다. 즉 AI 답변, 요약에 내 콘텐츠가 인용되도록 하는 방법을 고민하는 책이다. 샘플북의 한계이겠지만, 문제제기와 배경설명이 끝나고 본격적인 설명이 시작되는 부분에서 끝나버렸다. 책의 전체 내용이 궁금해진다

3/ 이 책에서는 AI요약의 동작방식을 살펴보면서, 그 메커니즘 속에서 어떤 정보가 더 높은 신뢰점수를 얻는지를 설명한다. 이를 바탕으로 SIFT 프레임워크를 제시한다. SIFT는 구조(Structure), 의도 적합성(Intent Fit), 정보 충실성(Fidelity), 출처신뢰도(Trust)로 구성된 약어이다.  구글로 대표되는 검색엔진에서 자신의 웹사이트가 좋은 점수를 얻기 위해 EEAT(경험, 전문성, 권위, 신뢰) 프레임워크를 고민한 것과는 다르다. EEAT가 콘텐츠 제작자의 신뢰성에 초점을 맞춘다면, SIFT는 AI가 콘텐츠를 처리하고 인용하는 방식에 최적화되어 있다는 점에서 관점 자체가 다르다.

4/ GEO 전략뿐 아니라, 그 성과를 측정하는 방식도 달라져야 한다는 점이 인상적이었다.  미처 생각하지 못했던 부분도 책을 통해 알게되었다. 바로 지표이다. 기존과 같이 실 사용자에 의한 직접적인 트래픽이 줄어들 것이므로, 마케팅 ROI나  각종 의사결정을 위한 지표들의 의미가 변경될 수 있다는 것이다. 신규 사용자 획득에 드는 비용도, 그에 따른 마케팅/브랜딩 전략도 보완되어야 하는 운명인 것이다.

5/ 기술적인 설명 부분에서 다소 단순화된 부분이 있었는데, 기술 서적은 아닌지라 의도적으로 추상화한 것으로 보인다. 저자분이 블로그나 다른 매체에 비슷한 주제로 기고한 글들을 찾아 함께 읽어보았다. 정식 책에는 SIFT 및 다른 전략에 대해 상세한 설명이 있지 않을까 기대되는 책이다. 책이 정식으로 출간되면 다시 한번 AI가 우리 콘텐츠를 어떻게 읽을지 고민해 보면서 나머지 부분을 읽어봐야겠다.

사내 프로세스 혁신 도구로서의 가능성을 점검해 보다.

1/ 꽤 오래전(이래봤자 올해 초였을 것 같은데) 지인들 모임에서 Dify.AI 에 대한 이야기를 나눴다. 당시만 해도 '디파이'라고 하면 탈중앙화 금융을 일컫는 DeFi가 먼저 떠오르던 시절이다. 지금도 크게 다르지 않다. 이런 현실 속에서도 LLM이 현업 프로세스 혁신의 영역으로 점점 가까이 다가오면서 드디어 우리나라에서도 Dify를 다루는 책이 나왔다. 나 역시 슬쩍슬쩍 곁눈질하던 터라, 이번 기회에 책을 읽으면서 Dify의 지향점과 현재 상태를 점검해 보고 싶었다.

2/ <Dify AI, 코드 없는 미래>는 번역서가 아니라 국내 엔지니어가 집필한 책이다. 국내에서 Dify에 관한 책을 누가 적을 수 있을까 했는데, 김정욱 저자님은 태디노트님과 함께 국내 AI 도입의 최전선에서 활동하시는 분이었다. 일단 브레인크루 멤버라는데서 +1.

3/ Dify는 대화형 AI 애플리케이션과 AI Agent를 손쉽게 만들 수 있도록 설계된 노코드 플랫폼이다. 정의야 어떻게 되었든 나의 관심사는 명확하다. AI를 이용하여 사내 프로세스를 개선하는, 이른바 PI(Process Innovation)활동에 이 도구를 적용할 수 있는가 하는 점이다. 

이 책은 다음과 같이 구성되어 있다.

1장: LLM/AI에 대한 일반적인  이해

2장: LLM에서 원하는 결과를 도출하기 위한 프롬프트 작성법

3장: 정보의 정확성을 올리기 위한 RAG 시스템

4장: 궁극적으로 우리가 원하는 에이전트의 가능성 옅보기

5장: 실제 워크플로 개선에 사용할 수 있는지 여부 살펴보기

6장:  이전 내용을 종합한 실습 프로젝트를

Dify가 뭔지, 어떤 작업을 수행할 수 있는지 이해도를 높이기에 충분한 구성이다.

4/ 기술 격동의 시절이다. 어떤 도구를 선택하는지가 이른바 엔지니어의 몸값에도 영향을 준다. Dify... 이 책을 읽으면서 다뤄본 Dify는 아직은 아쉬움이 많이 남는 플랫폼이다. 코드를 작성할 수 있는 개발자라면 n8n이 더 유용하고, 코드와 거리가 먼 사용자라면 사용자라면 구글의 Opal 서비스나 Agentspace같은 서비스가 더 와닿지 않을까 싶다. 결국 Dify가 강점을 가질 수 있는 부분은 구매냐 구축이냐(Buy vs Build)의 고민에서 구축을 선택했을 때 제시할 수 있는 대안이라는 점이다.

5/ 사내에서 이미 n8n을 활용하고 있는데, Dify도 사용할 수 있게 호스팅해달라고 요청했다. 클라우드 서비스에 가입해서 잠깐 사용해 보긴 했지만,  사내에 직접 구축해서 충분히 사용해 봐야 정확한 판단을 내릴 수 있을 것 같다. Opal의 최대 단점은 기업 환경에서 사내 시스템과의 연동이 힘들다는 것인데, Dify는 Opal과 같은 시스템을 사내에 구축하고, 이를 MCP를 통해 다른 사내 시스템과 연동할 수 있겠다는 가능성이 보인다. 다만 관건은 얼마나 사용자들이 부담스럽지 않게 접근할 것인가인데, 결국 이 작업을 LLM의 도움을 받아 코드를 작성하지 않고도 수행할 수 있느냐가 핵심이 될 것이다.

6/ Dify. 비전은 훌륭하고 빠른 속도로 진화하고 있지만, 갈 길이 멀어 보인다. 하지만 어떠하랴. 오픈소스의 비전이라는게 원래부터 그런것 아니었나. AI 서비스, 특히 사내 서비스 도입/구축을 고민하시는 분들이 읽으면 도움이 되는 내용이 많다.