neozest : neo+zest

팀원들에게 AI 코딩 도구 활용법을 알려주고 싶은데, 마땅한 책이 없었습니다. 프롬프트 작성법을 다룬 책은 많고, AI 동작원리를 설명하는 책도 많은데, 정작 "개발자가 일상 업무에서 어떻게 쓸 것인가"를 다룬 책은 찾기 어려웠습니다. 그러다 발견한 책이 <개발자를 위한 생성형 AI 활용 가이드>(길벗, 핫토리 유우키 저)입니다.

한마디로 요약하면 챗팅 형태의 AI 활용을 고민하는 개발자라면 읽어보는 것이 좋겠습니다. 또한 팀 전체의 AI 코딩 활용을 고민하는 관리자에게도 유용합니다. Neo의 평점은 별 네 개. 일본서 특유의 느낌이 있습니다. 앞에서 읽었던 <바이브코딩 너머 개발자 생존법>은 전체 프로세스를 중심에 놓고 이야기를 풀어가는 반면, <개발자를 위한 생성형AI 활용 가이드>는 지금 당장 써먹을 수 있는 활용방안을 배경지식과 함께 정리해 소개합니다.

이 책의 장점은 개발자 관점에서 코딩 AI를 제대로 활용하기 위해 알아야할 것을 모두 모아두었다는 점입니다. 앞부분에서는 AI가 소프트웨어 개발 프로세스를 어떻게 바꾸고 있는지를 소개하면서 개발과정에서 프롬프트를 작성하는 방법을 자세히 소개합니다. 이 과정에서 단순히 프롬프트 작성만 알려주는 것이 아니라 개발 업무의 특성은 이러한데 생성형 AI는 이렇게 동작하니까 프롬프트를 이렇게 활용해 보세요라는 내용이 많은 것이 마음에 들었습니다.(예: BUD프레임워크를 활용한 코드 최적화. BUD 프레임워크: Bottleneck, Unnecessary, Duplicated )

또한 AI와의 협업을 전제로 코드 구성요소의 역할 변경도 생각해 볼 거리인 것 같습니다. 예를 들어 저자는 AI가 해석할 수 없는 부분이나 토큰을 낭비할 수 있는 부분에 초점을 맞춰 주석을 작성하는 것이 효과적이라고 이야기합니다. 또한 의도 전달에 치우쳐 너무 많은 맥락을 제공하여 혼선이 유발될 수 있으니 적절한 수준을 유지하라는 조언도 도움이 되었습니다. 결국 AI와의 협업을 바탕에 깔고 어떻게 하면 우리의 의도를 잘 전달하여 AI에게 일을 시킬까에 대한 저자의 고민과 나름의 해결방안이 정리되어 있습니다.  

7장과 9장의 내용은 코딩 AI를 팀 개발 프로세스에 어떻게 녹여내고, 그 효과나 성과를 어떻게 측정할 것인지에 대해 고민하는 팀장들에게 몇 가지 키워드를 알려주는 내용이 들어 있습니다.(Four Keys, SPACE 프레임워크등, 짤막하게 소개가 되어 있습니다.) 그리고 어떤 식으로 팀에 도입해야 하는지에 대한 저자의 생각도 살짝 엿들을 수 있습니다.

책 읽으면서 몇가지 밑줄 친 부분은 다음과 같습니다.

프롬프팅 기법에만 집착하면 본질적인 문제 해결 능력이라는 관점을 잃어버릴 수 있습니다.(p.38)

프롬프트를 작성할 때 가장 중요한 것은 AI에 원하는 답을 자신이 이해하고 있어야 한다는 것입니다. 완벽한 답을 알지 못하더라도, 문제해결의 접근 방식을 파악하고, AI의 도움 없이도 해결책을 도출할 수 있는 상태가 이상적입니다.(p.92)

예측할 수 있고 신뢰성이 높은 코드를 생성하려면 개발자는 이러한 언어의 특성을 이해하고 있어야 하며, AI에 적절한 프롬프트를 제공하는 것이 중요합니다.(p.168)

AI에 모든 것을 맡기거나 제대로 활용하지 않고 반복적으로 AI에만 요구하기 보다는 필요한 부분에서는 인간의 판단을 개입시키는 것이 AI를 활용한 코드 개선의 핵심입니다. (p.187)

AI는 아이디어를 발산하는데는 능하지만, 수렴시키는 것은 서툽니다. 수렴에는 의사결정이 따르고, 책임이 수반됩니다. 언제나 최종적으로 책임을 지는 것은 인간입니다.(p.231)

조직의 경쟁력을 높이기 위해서는 '사람에게 의존하는 AI 활용'수준을 넘어서야 합니다. 이러한 문제를 해결하려면 조직 자체의 구조와 방식을 재검토해야 하고, 뛰어난 개인과 팀의 지식을 AI가 제대로 활용할 수 있는 환경을 만드는 것이 경쟁력향상의 핵심입니다. (p.281)

평소라면 굳이 찍어먹지 않아도 척 보면 알 수 있는 것도 있지만, 개발자에게는 뭔가 블랙박스를 열어보고 싶은 본능이라는게 있는 것 같다. 요즘같은 大 AI 시대에, "LLM은 어떻게 돌아가는 거야?"라는 질문에 "그냥 마법이야. API만 쓰면 되지"라고 대답할 수는 없는 노릇이다. 호기심으로 인해 직접 만들어보고, 운영하다가 망가지기도 하고, 그걸 고치면서 다시 깨달음을 얻고.. 이 과정을 반복한 것이 개발자의 인생 아니었나. 그래서 LLM의 이해를 돕기 위해 살펴본 책이 <밑바닥부터 만들면서 배우는 LLM>(세바스찬 라시카 지음, 박해선님 번역, 길벗 출간)이다.

책은 실제로는 거의 600쪽 가까운데, 부록이 100여 정도 되고, 워크북도 120여쪽 정도 된다. 그래서 본책은 300쪽 남짓이라 보면 된다. (300쪽으로 LLM 동작원리를 압축해서 설명한다.이해하려면 머리속으로 압축을 풀어야 한다) 파이썬 기본 문법만 알면 그럭저럭 따라가면서 만들어 볼 수 있다. 책은 3단계로 나눠서 LLM을 만든다. 1단계에서는 데이터를 준비하고, 어텐션 알고리즘을 구현하면서 LLM의 기본 골격을 만든다. 그런 다음 트레이닝 과정을 반복하고, 모델을 평가하면서 파운데이션 모델을 만든다. 사전 훈련된 가중치 값을 불러오고 미세튜닝까지 진행하는 것이 2단계다. 3단계는 활용인데, 미세 튜닝을 통해 분류기와 개인 비서로 활용하는 방법을 맛본다. 이 책의 장점 중 하나는 전체 로드맵을 두고 각 장마다 이번엔 어떤 부분을 만들것인지를 먼저 인식한 상태에서 설명을 이어간다는 점이다. 전체 과정중 현재 어디까지 왔는지를 이해하면서 책을 읽을 수 있다. 잘 구성된 책이다.

이 책에서 만드는 LLM은 요즘 일상에서 사용하는 최신 AI(LLM 모델)이 아니다. 요즘은 사고에 추론까지 갖추기 위해 다양한 시도를 하지만 이 책은 텍스트 토큰나이징부터 시작하여 어텐션 매커니즘을 구현해 보고, LoRA 기반으로 미세조정까지 진행한다. 어찌보면 AI 바닥에 계신 분들에게는 이전 세대의 기술처럼 인식될 수도 있겠다. 하지만 나처럼 LLM을 활용하기 위해 고민하는 사람들에게는 이 블랙박스같은 LLM의 동작원리를 이해하는 것이 하나의 과제가 되는데, 초기(?) 버전의 기술을 살펴보는 것이 오히려 개념이 간결하고 복잡하지 않아서 이해하는데 도움이 되는 경우가 많다. 물론 동작 원리를 이해하고 나면 응용 개발자 입장에서는 다시 동작원리를 잊어버리고 활용을 하겠지만, 그래도 한번의 이해가 큰 도움이 되는 상황이 많다. 디버깅, 최적화, 트러블슈팅할 때   HTTP 프로토콜을 보지 않고 REST API만 호출하는 개발자와 HTTP 프로토콜을 이해하면서 REST API를 호출하는 개발자 사이에서 볼 수 있는 내공의 차이가 이런 호기심 때문은 아닐까 생각한다. 번역서인 까닭에 한글은 어떻게 처리해야 할지는 빠져있지만, 원리는 이해된다.

<밑바닥부터 만들면서 배우는 LLM>책을 읽기 시작한지는 좀 되었다. 추석 연휴를 이용해서 읽겠다는 계획을 세웠다. 그런데 처음 읽기 시도에서는 완독에 실패했다. 책을 읽다가 모르는 용어가 나오면 열심히 AI와 씨름하며 개념을 복습도 하고, 새로운 개념을 익히기도 했다. 그러다 보니 너무 곁길로 새어버렸다. LLM은 역시 어렵군하면서 잠시 우울해 하다가 그냥 잘 이해되지 않더라도 쭉~ 책을 따라하면서 일독을 했더니 저자가 설계한 내용이 조금 더 이해가 되었다.이런 이해를 바탕으로 다시한번 읽는 중이다. 완전히 이해하려면 몇 번을 더 읽어봐야할지 모르겠지만 여러번 읽으면서 이해의 해상도를 높여야 하는, 보기드문 핸즈온 LLM 책이라 생각한다. LLM의 작동 원리가 궁금한, "AI(OpenAI나 Vertex) API 호출만 할 줄 아는 개발자"에서 벗어나 원리를 이해하고 제대로 활용해 보고 싶은 개발자라면 이 책이 유용할 것이라 생각한다.

혼자 완독하기는 힘든 책이다. 인프런에서 진행되는 완독 챌린지 강의에 참여(이미 모집이 완료되었다.)하거나 역자인 박해선님의 유튜브 채널의 도움을 받는 것이 좋겠다.