1판을 읽었던 게 얼마 되지 않은 것 같은데 벌써 3판이 나왔다. 그 사이 우리가 겪은 AI 기술의 발전 속도는 정말 놀라웠다. 하루 하루 새로운 개념과 접근법이 쏟아져 나왔다. 그동안 어떻게 가만히 목소리를 죽이고 있었을까 하는 생각이 들 정도였다. 분류와 회귀 예측이 주류였던 딥러닝 시대를 지나, 어느새 자연스럽게 생성(Generative AI)의 시대로 넘어왔다.

나는 딥러닝이나 AI를 전문적으로 공부하는 연구자가 아니다. 딥러닝이나 LLM의 결과물을 서비스에 활용하여 구현하는 개발자로서,  요즘 LLM 모델 연동 방식을 보면 API 한 줄로 호출하거나 허깅페이스에서 코드 몇 줄 긁어오면 그럴듯한 AI 기능이 뚝딱 구현된다. 그런데 '돌아만 가는 코드'나 단순 API 연동만으로는 한계가 분명하다. 현장에서만 발생하는 문제를 접하다 보면 내부 작동 메커니즘을 모르면 막힐 수밖에 없다. 그렇기에 그냥 왠만한 것은 LLM으로 해결되더라도 머리를 싸매가며 딥러닝 기초를 다시 파고들어 본다. 마침 10월 연휴가 있어서 이번 기회에 다시한번 리마인드하리라 결심했건만, 책을 끝까지 읽기가 쉽지 않다. 그래서 심기일전의 마음으로 지금까지 읽으면서 들었던 생각을 글로 정리하고 나머지 부분을 계속 이어 읽어 나가고자 한다.

 

밑바닥부터의 이해가 가져다 줄 직관을 위해...

예전에 자료구조나 알고리즘을 손수 입력해 보면서 공부했던 것이 일상의 작업에 당장 100% 활용되지 않는 것처럼 느껴질 때가 있었다. 특히 요즘처럼 AI가 코드를 대신 작성해 짜주는 시대에 예전처럼 손수 딥러닝 프레임워크를 파고드는 것이 무의미할 지도 모른다. 그런데 결국 엔지니어링이란 원하는 목표를 적기에 적정 비용으로 시장에 내놓아야하는 숙명을 타고났는지라, 이 책을 읽는다.

 

그런데 왜 하필 케라스일까? 사실 이 책의 원제에는 케라스라는 단어는 찾을 수 없다. 다만 케라스의 창시자라 불리는 프랑소와 숄레와 핵심 메인테이너인 매튜 왓슨이 적은 딥러닝 책이다. 창시자가 설명하는 내용은 매력적일 수 밖에 없다. 창시자란 뭔가 새로운 것을 만들어 냈다는 사실보다는 세상을 자신만의 관점으로 풀어내는 틀을 정리해냈단 점이 대단하다고 생각하는데, 그런 점에서 케라스의 창시자가 바라보는 관점은 생각의 갈피를 많이 제공해 준다. 숄레가 썼다고 해서 이 책을 단지 케라스 사용법으로 생각하면 오산이다. 개인적으로 3장이 마음에 들었는데, 선형 분류기를 주요 딥러닝 프레임워크인 텐서플로, 파이토치, JAX, 케라스에서 구현하면서 각 프레임워크의 지향점을 옅볼 수 있다. 그렇다고 케라스에 치우친 설명은 아니다.

 

 

AI 도구와 함께 하는 공부~

 

 

 

이번 3판을 보면서 1판을 함께 비교했는데, 내용이 겹치는 부분이 거의 없다. 숄레 말대로 완전히 새로 작성된, 이름만 같은 딥러닝 학습서이다. 특정 프레임워크에 갇히지 않고, 각 도구가 무엇을 추상화하고 노출하는지 구조적으로 보여주기 때문에 서비스 스택을 고민하는 개발자에게 폭넓은 안목을 제공하는 책이다.

 

여전히 진도는 더디게 나가고 술렁술렁 읽고 싶은 마음은 간절하지만, 그래도 곱씹어 가면서 차근차근 읽어나갈 생각이다. 아우~ 대체 2장과 4장을 몇번째 읽는건지 모르겠다. 점점 멍청해지는 나 자신이 느껴진다. 그나마 원서도 웹사이트로 제공되고 있어서, Ask Gemini 기능을 이용하여 잘 이해되지 않는 부분을 물어가면서 하나씩 격파해 나가고 있다.

 

책을 읽다가 지친 마음을 달랠 겸 19장 AI의 미래과 20장 결론 부분을 먼저 읽었다. "단순한 스케일업만으로는 진정한 지능(AGI)에 도달하기 어렵다"며 딥러닝의 명확한 한계와 일반화의 본질을 언급한다. 거품 가득한 마케팅 용어에 휘둘리지 않고 기술의 현주소를 냉철하게 바라보는 전문가의 묵직함이 느껴진다.

 

조금 더 읽어 나가다 보면 트랜스포머를 결국 만나게 될 것이다. 분발해서 끝까지 읽어보자. 이 책을 끝까지 읽고 나면 내가 만들고 싶었던 문제 도메인의 SLM 모델을 직접 학습시키면서 만들고, 이를 최적의 구조로 서비스할 수 있지 않을까(사이드 프로젝트로 진행하는 것이라 비용이 문제인데, 비용 최적화된 딥러닝 모델을 만들어 볼테다.)

 

나는 1장부터 7장, 19장~20장을 먼저 읽고, 8장부터는 사례 학습(이미지 분류, 구분, 감지, 시계열 예측, 텍스트 분류, 트랜스포머, 텍스트 생성, 이미지 생성) 순으로 읽어가는 중이다. 함께 읽어가고 있는 분들이 있다면 으쌰으쌰 같이 정리하면서 끝까지 완독해 보자!!! 

 

같은 출판사에서 나온 <밑바닥부터 만들면서 배우는 LLM>과 한빛미디어의 <혼자 공부하는 딥러닝>책을 곁들이면 좋을 것 같다. 그러고보니 모든 책이 박해선님이 번역하신 책이네. 덕분에 잘 보고 있습니다~

 

뱀꼬리> 최근 여러 출판사에서 딥러닝 프레임워크, 특히 파이토치에 관한 책이 출간되고 있는데, 그 이유가 궁금합니다. 혹시 제 블로그를 찾아주시는 분들 중에 의견 달아주실 분 있으실까요? 한빛미디어에서도 <핸즈온머신러닝w/사이킷런,파이토치>가 나왔고, 더타이즈에서도 <멀티모달까지 직접구현하는 딥러닝 w/ 파이토치>도 나오고 해서요.

 

 

구글 노트북LM이 원서 사이트를 읽고 완독을 자극하는 슬라이드를 만들어 줌...

 

반응형

 

 

평소 나는  SLM이 앞으로 두가지 측면에서 중요해질 것이라고 생각해 왔다.

 

첫째, AI가 동작해야 하는 환경에는 제약이 있다. 그것이 실시간성을 요구하는 기능적인 것일 수도 있고, 개인정보 보호같은 컴플라이언스 때문일 수도 있다. LLM의 성능이 우수하다고 하지만  산업현장이나 의료현장처럼 보안이나 규제가 존재하는 곳에서는 이야기가 달라진다. 제조업에 있는 지인도 SLM을 열심히 살펴보는 중인데, 장비의 센서 정보를 외부 서비스로 보낼 수도 없을 뿐더러, 요청을 보낸 뒤 언제 돌아올지 모르는 응답을 기다릴 수는 없다는 이야기를 들었다. 이런 환경에서는 모델의 절대적인 지능보다는 어디에서 실행할 수 있고, 얼마간의 자원으로 실행할 수 있고, 얼마나 도메인을 잘 이해하는가가 더 중요한 조건이 된다. Edge AI나 On-device AI가 계속 언급되는 이유이기도 하다.

 

둘째, 학습을 직접 경험하기 위한 현실적인 크기를 SLM은 제공해 준다. 우리가 다들 대형 언어모델을 이야기하지만, 개발자가 밑바닥부터 언어모델을 만들어 볼 일은 거의 없다. 실제 업무에서는 대부분  기존 모델을 선택하고, 데이터를 준비하여 파인튜닝하고, 평가하고, 양자화하거나 RAG를 붙여 원하는 성능을 만들어 가는 과정에 가까울 것이다.문제는 이 과정을 제대로 경험해 보려면 GPU 메모리와 학습 비용이라는 현실적인 부담이 존재하게 된다. 그래서 나는 SLM/sLLM이 단순히 작은 LLM을 넘어 학습 도구로 활용 가능성이 높다고 생각한다.

 

 

이런 고민을 하던 차에 길벗의 챗 <원하는대로 튜닝하는 나만의 sLLM>이 눈길을 끌 수밖에 없었다. 아차! 정확하게는 SLM이 아니라 sLLM이다. 이 책에서는 sLLM을 중점적으로 설명하는데, 중요한 것은 이름보다는 책이 다루는 범위다. 단순히 규모가 작은 모델을 소개하는데 그치지 않고 파인튜닝 방법부터 최적화, 서비스 구현까지 한 사이클을 모두 다룬다.

 

이 책에서 다루는 파인튜닝 과정을 제대로 로컬에서 실행해보려면 초기 투자비용이 발생한다. 물론 Google Colab에서도 실행할 수 있게 구성되어 있다.

 

이 책에서 소개하는 개념들은 책 한권으로 이해하기는 만만치 않다. 책에 실린 코드에는 설명이 달려 있지만, 각 기술을 좀 더 파고들기 시작하면 그것만으로도 공부가 필요했다. 이 부족한 부분은 독자가 스스로 메워야하는 여백? 공간인데... 나는 그 간격을 GPT에게 계속 질문하면서 메워 나갔다.

 

개인적으로는 1장은 개발자가 아니더라도 AI에 관심 있는여러 사람들이 함께 읽어봤으면 좋겠다. 지금까지 나온 AI의 흐름과 관련 용어, 개념을 잘 정리해 두었다. 그냥 추세를 읽고 싶은 분들이라면 충분히 공감할 내용이 많다. 용어 정리도 잘 되어 있다. 1장은 업계 흐름의 큰 지도를 그린다.

2장과 3장은 고만고만했는데, 1장 기본 개념을 기반으로 sLLM으로 개념을 확장정리하였다. 개인적으로 1장만큼 강한 인상은 받지 못했다. 어느정도 AI 관련 내용을 계속 학습해 온 사람이라면 익숙한 내용들이었다. 처음 접한다면 굳이 왜 작은 모델인가에 대한 배경 지식을 잡을 수 있을 것 같다.

 

4장부터 7장까지가 실질적으로 모델을 학습시키면서 최적화하는 과정을 설명한다. 모델을 가져와 데이터를 준비한 후 파인튜닝을 하고, 모델을 압축하고, 추론비용을 줄이는 과정. 코드에 주석이 달려 있지만, 그렇다고 모든 코드의 내부 동작을 한 줄씩 설명해주는 스타일의 책은 아니다. 그래서 중간중간 멈춰서 따로 찾아보거나 GPT 선생님의 도움을 받아야 하는 부분이 꽤 있다. 반대로 말하지면 예를 따라가면서 전체과정을 한번 경험해 보는 것이 목표라면 적당한 것 같다.

 

 

GPT 선생님의 NF4 설명

 

LORA 어댑터 파라미터값 설명

 

8, 9장은 서비스로 구현하는 내용인데, 아직 읽고 있는 중이다.

 

SLM이나 sLLM을 이야기하다 보면 '잘 튜닝만 하면 작은 모델로도 LLM만큼 좋은 성능을 낼 수 있다'라는 주장도 자주 만나게 된다. 나는 최적화된 sLLM이나 SLM으로 범용적인 추론 능력과 광범위한 지식을 갖춘 LLM에 비할 성능을 얻을 수 있다는 말은 거짓이라 생각한다. 하지만 우리가 수행하는 반복적인 업무중 상당 부분은 LLM의 지능이 아니라 SLM/sLLM으로도 충분히 해결가능한 일이 많다. 이를 합리적으로 해결하는 것이 엔지니어의 몫이라 생각한다. 그래서 LLM으로 할 일과 SLM으로 할 일을 나눠 할당하는 것이 점점 더 중요할 것이라 본다.

 

이 책은 그 출발점으로 직접 자신의 컴퓨터 내지는 저가의 클라우드 환경에서 해보면서 배울 수 있는 내용을 담고 있는, 현 시점에서 볼 수 있는 몇 안되는 책이라 생각한다. 특정 파인튜닝 기술을 깊이 알고 싶다면 조금 부족한 느낌을 줄 수도 있겠다.

 

반응형

+ Recent posts