neozest : neo+zest

제 또래에서 IT 업계에 계신 분들은 임백준이라는 독특한(?) 이력을 가진 작가분을 기억하실 겁니다.임작가님의 첫 책은  뉴욕의 프로그래머였던 것으로 기억합니다.(노란색 예쁜 표지였던 것으로 기억합니다.) 업계에 대한 인사이트를 특유의 재치로 풀어내던 분으로 기억하는데, 이번에 AI에 대한 인사이트를 풀어낸 책이 나왔다고 해서 읽었습니다. 제목은 <AI 트루스> 

최근 몇년 사이 AI, 정확히 이야기하면 확률 통계에 기반한 트랜스포머 모델이 대중화 되면서 개발업무를 담당하는 친구들과 약간의 공포심과 방향 상실감을 느꼈습니다. 그래서 AI와 관련된 책들을 읽어보기 시작했습니다. 몇몇 책은 너무 추상적이었고, 몇몇 책은 이론적이었고, 때로는 공포심만 자극하는 내용의 책들도 있었습니다. 하지만 이 책은 기술적 진보가 우리 사회에 미치는 관계에 대해 이야기하면서 이공학적 지식을 기반으로 향후의 미래 방향을 논하는 책입니다.

같은 출판사에서 나온 박태웅 님의 <AI 강의>도 좋은 책이지만, 뭐랄까 인문적 기반위에서 기술을 바라보는 느낌이라면, 임백준님의 <AI투르스>는 엔지니어 입장에서 AI기술을 전반적으로 바라보는 시각에서 쓰여진 책입니다.

제가 대학원 다닐 때 여러 실험을 하면서 신경망이나 전문가 시스템을 연구 분야에 도입해 보려고도 했습니다만 결과가 신통치 못했었는데요. 최근의 인공지능 연구 결과를 보면 엄청나네요. 전 AI의 미래는 기호주의에 기반한 추론이 가능해 져야 정말 제대로 된 Artificial Intelligence라고 믿지만, 가야할 길이 요원해 보이고, 통계에 기반한 연결 주의가 현실에서 그 효과를 내는 것이 사뭇 역설적으로 느껴집니다. 인류의 지식이 그만큼 어떻게 보면 뻔했던 것일지도 모른다는 엉뚱한 생각도 해봅니다.

AI와 컴퓨팅 파워의 급격한 발전 덕분에 소프트웨어 엔지니어의 새로운 시대가 열리고 있는 것(저자님 표현을 빌리자면 새로운 미래가 재정의되고 있는 것)은 분명한데, 어떻게 이 기술을 도구로 잘 활용하여 우리의 존재가치를 높일 수 있고, 인류의 발전에 기여할 수 있을까에 대한 고민을 던져주는 좋은 책입니다. 이공계생이나 엔지니어 분들도 사회 체제나 가치에대해 좀 더 개입을 많이 해야 한다고 생각합니다.

아직 멀었다고 생각하는 AI의 전면적 도입이... 물론 산술적이긴 합니다만 인간 능력의 3분의 1만 되어도 큰 영향을 미칠 수 있다는 관점은 조금 섬뜩하기도 했지만, 냉정한 현실을 받아들여야 한다고도 생각합니다.

제 평점은 3.5. AI의 총론 내지는 개론서를 읽은 적이 없다면 박태웅님이나 이 책 중 하나를 읽으면 좋을 것 같습니다. AI의 세부적인 기술 이야기는 없지만, 기술적 담론을 견지하면서 AI의 과거와 현재, 미래를 생각해 볼 수 있는 화두를 정리한 책입니다..

참고로 박태웅 님의 AI강의책은 새로운 버전이 나온다고 합니다. 

Excerption

1장.

하지만 인공지능 모델의 수준이 꾸준히 올라가면서 어느 순간 평균 수준의 개발자가 어느 정도 품질이 보장되는 코드를 작성하는데 도움을 주기 시작했다.

2장

기호주의: 인간의 생각을 숫자, 문자등으로 이루어진 기호와 규칙으로 표현하는 것. 우리가 문제를 해결할 때 머리 속에서 사용하는 논리나 규칙을 컴퓨터가 이해할 수 있는 언어로 바꾸려고 노력하는 것.

연결주의: 인간의 뇌가 작동하는 모습을 최대한 모방하려고 노력. 서로 연결되어 있는 뉴런을 모방해서 컴퓨터가 스스로 학습하고 문제를 해결하도록 하는 것.

(Neo's comment -> 이 책은 예전에 읽었던 '스티븐 울프럼의 챗 GPT강의'책에서 잘 설명해 주고 있다.)

초기 일라이자 AI는 자신이 한 말을 단순히 반복하는 프로그램인데도 그런 프로그램과 나누는 대화 속에서 자신이 이해 받고 있다는 감정을 느낀 것.

전문가 시스템은 결정적 한계를 지니고 있음. 지식의 확장이 없음. 지식과 추론에 기반한 전문가 시스템은 자기 경험을 통해 새로운 규칙을 만들어내지 못함. 사람이 지식을 지속적으로 관리해 주어야 함. 노력과 관리 비용이 들게 됨.

지식 그래프는 사람, 장소, 사물에 대해 수십억개의 지식 항목을 저장하고 있으며, 사용자에게 보여줄 검색 결과를 만들때 잘 정돈된 정보를 제공하기 위해 적극적으로 사용.

지식 그래프는 기호 표현, 논리구조, 명시적 지식을 기반으로 한다는 점에서 기호주의의 산물.

3장.

바둑은 단순 계산의 영역이 아니었다. 미지의 영역을 더듬으며 승리의 기쁨과 환희, 의심과 두려움, 패배로 인한 절망과 고통의 감정을 느끼는 신비한 영역이었다.

이세돌과 AI의 대국. 이세돌의 패배.. 모든 사람이 인공지능 프로그램으로 바둑을 공부하자 실력이 상향 평준화 되었다.

사우디아라비아는 석유시대가 사양길로 접어들면서 나라의 생존을 걸고 국가 개조 사업을 진행하고 있음. 인공지능을 탑재한 휴머노이드인 소피아에게 시민권을 부여.

이를 통해 기술적 리더십과 혁신의 이미지를 얻고자 했지만, 인류는 아직 로봇을 인류의 일원으로 받아들일 준비가 되지 않음.

휴머노이드는 그림자. 그림자는 스스로 생각하거나 상상하지 않는다. 사람이 생각하고 상상한다. (Neo's Comment:  인간은 의도(의지)와 욕망을 가지고 있는 존재이다. AI나 휴머노이드처럼 인간이 인위적으로 만든 존재가 인간과 비슷한 의지와 욕망을 가질 수 있을까?)

페이스북 연구원은 인공지능이 자기들끼디 대화를 나눌 목적으로 만든 언어가 사람 눈엔 이상하게 보일지라도 언어 내부에 일정한 규칙과 구조가 존재한다고 생각.적어도 자기들끼리의 의사소통 수단.

미래에 이공지능이 인류 문명을 파괴한다면 그건 너무 똑똑해진 인공 지능의 의도 때문이 아니라, 인공지능이 아무 생각없이 추구하는 효율성 때문일 확률이 높다.

인간이 정말 무서워해야 하는 것은, 그렇게 인간의 관리와 통제를 벗어난 인공지능이 스스로의 판단과 동기에 의해 극도의 효율성을 추구하는 세상이다.

인공지능은 (적어도 지금은) 스스로 생각하지 않으며 통계에 기반한 계산을 수행할 뿐이다.

추론 능력이 결여된 왓슨은 미리 짜여진 지식의 틀을 벗어나는 순간 바보가 되었다.

특정한 역할을 수행하려면 다양한 지식과 정보에 대한 이해는 물론 대화의 톤과 뉘앙스를 정확히 파악하는 능력, 자기가 맡은 역할에 대한 이해, 대화 상대에게 공감하는 능력까지 있어야 가능하다.

(Neo's Comment: 미국 럿거스 대학의 이장선 조교수의 '생각의 자동화'라는 표현에 공감하는데 그렇다면 생각은 어디에서 어떻게 발생하는것일까?)

4장 코딩의 종말

개발의 각 단계는 사람 사이에서 일어나는 수많은 커뮤니케이션을 필요로 하는데, 인공지능이 이런 과정을 어떻게 대신할 수 있을까?

존카멕: 가치의 원천이 코딩인 적은 한번도 없었다. 그러니 사람들은 코딩에 너무 집착하지 말아야 한다. 문제를 해결하는 것이야 말로 핵심기술이다.전통적인 프로그래밍이 요구하는 규율과 정확성은 계속 소중한 가치로 남아있겠지만, 그렇 것들이 더 이상의 진입장벽 역할을 하지는 않을 것이다.

프로그래밍 경연대회가 창의성과 엔지니어링 능력을 동시에 요구하고, 문제를 해결하기 위한 전략도 잘 세워야 한다. (Neo's Comment: 이것이 프로그래밍의 매력 아닐까!)

인공지능은 사람 개발자에게 매우 효율적인 도움을 제공하여 사람이 지금보다 더 높은 수준의 일, 더 가치있고 중요한 일에 집중할 수 있도록 도와주는 도구

근본적인 변화의 양상을 보여주기 시작.

코드의 범위가 넓어지거나 추상 수준이 올라기면 사람의 실력에 미치지 못하여 활용성이 떨어지고 문제를 발생시키는 경우가 많지만, 작은 단위의 코드나 구체적인 목적을 위한 코드를 생성하는 일은 상당히 잘한다. 개발자들은 일상적으로 진행하는 작은 단위의 코딩 업무를 위해 AI 코딩 도구를 적극 사용한다. 일의 범위가 넓어지거나 추상 수준이 높아지면 인간의 자부심을 드러내며 직접 업무를 수앻나다. 일종의 협업이다.

일을 하는 주체는 어디까지나 사람이다. 통합적으로 업무를 수행하는 것은 현재의 인공지능이 하기엔 어려운 일이다.

인공지능이 적용되는 업무의 영역을 높이기 위해 자율성과 코딩 역량, 높은 수준의 학습 능력이 개발되어야 하지만, 사람 역시 지속적인 학습과 새로운 상황에 대한 적응이 가능하다.

소프트웨어 개발이라는 관점에서 자율성과 지속 학습이 정확히 무엇을 의미하는지 생각해 볼 필요가 있다.

단지 이러한 변화의 흐름은 코딩 뿐만 아니라 지식, 논리, 추론 등 지능을 이용해 노동을 수행하는 이세상의 모든 화이트칼라 노동자가 다함께 벼랑 끝으로 향하게 된다.

인공지능의 역량이 사람 개발자 역량의 산분의 일 지점에 도달하면, 산술적으로는 8시간 을 근무하는 직원과 24시간 근무하는 인공지능의 생산성이 비슷해 진다.

JETA 방식은 트랜스포머 방식은 확률에 의존하여 한단어씩 내뱉는 실제로는 아무 생각이 없는 기계일 뿐이라 비판하고, 실제로 추론을 수행하는 인공지능을 개발하여 AGI에 도달할 계획을 가지고 있다. 이 부분은 얀 르쿤의 현 AI에 대한 비판과 같음.

어텐션은 맥락을 이해하고 전체적인 의미가 일관성을 유지하도록 만드는 방향키 역할을 수행.

노엄 촘스키의 발언

통계언어모델은 엔지니어링 측면에서 성공을 거두었을지 몰라도 과학과 무관하다.

통계모델의 동작방식을 이해할 수 없다. 그런 모델은 아무런 통찰을 제공하지 않는다.

통계모델은 언어를 학습하는 능력이 없는 것으로 검증되었다.

거대한 통계엔진에 불과한 인공지능이 수행하는 예측과 논리적 사고를 통해 수행하는 인간의 사고는 완전히 다르다.

지능은 창조적인 추측 뿐만 아니라 창조적 비판으로 구성된다. 인간형 사고는 가능한 설명과 오류 수정에 기반을 두고 있으며, 이는 합리적으로 고려될 수 있는 가능성을 점차 제한하는 과정이다.

챗GPT와 그 유사한 프로그램은 근본적으로 창의성과 제약의 균형을 맞출 수 없다.

사람은 언어를 획득하기 위해 그렇게 많은 데이터를 필요로 하지 않는다. (Neo's Comment: 그럼 이러한 근본적인 차이가 발생하는 지점은 도대체 무엇때문 일까?)

인공지능과 대화를 나누면서 브레인 스토밍을 통해 아이디어의 출구를 찾을 수 있다.

당신을 대체하는 것은 인공지능이 아니라 인공지능을 활용하는 다른 사람이다. 

인간세상의 소중한 구성물인 소프트웨어는 반드시 사람의 관리와 통제하에 놓여있어야 한다.

인공지능으로 만든 소프트웨어의 최대치는 프로토타입 정도에 머문다.

전통적인 소프트웨어는 수학공식처럼 아귀와 맥락이 딱딱 맞는 결정론적 논리로 구성되어 있기 때문에 버그의 정의가 뚜렷하다. 인공지능 모델은 비결정론적인 확률적 분포의 흐름에 따라 상황을 이해하고 행동하기 때문에 미리 확실하게 결정된 것은 없다. 할루시네이션은 버그와 달리 근본적으로 해결한 방법이 없다. 최선을 다해 완화시킬 수 있을 뿐이다

이미 존재하는 AI 도구를 적극적으로 받아들여 업무를 활용해야 한다. 고도의 집중력, 기술의 능숙함, 수학적 재능, 코드를 읽고 이해하는 능력 등이 요구된다. 하는 일의 겉모습은 달라져도 본질은 그대로다. 인공지능과 함께 필요한 문제를 해결하는 방향으로 나아가도록 관리하는 경험이 중요.

5장. 인공지능과 지적 노동

금융 - 기존 관행을 바꾸어 혁신하는 것보다 새로운 관행을 처음부터 만드는 것이 더 편할 수 있고, 파격의 공간도 넓을 수 있다.

의료 - 의사가 환자와 소통하고 공감하는 과정에서 발생하느 정서적 연대가 매우 중요. 이 부분의 구축을 도와주는 AI

소매업,제조 - 기계적 반복이 아닌 고객이 필요로 하는 정보를 정확하고 풍부하게 제공. 고학력 고기술 노동자와 저학력 저기술 노동자간의 격차는 확대

교육 - 개인의 약점과 강점을 실시간으로 파악, 개개인에 맞는 자료와 문제를 제공하여 학습 효율을 극대화. 과거의 교육내용과 시스템으로는 새로운 시대에 제대로 대응할 수 없다.

AI의 도움으로 여러 영역의 업무가 점점 더 많이, 점점 더 정교하게, 점점 더 사람과 다름없는 모습으로 이루어진다.

6장

문제의 본질은 인류 스스로 자기들끼리 맺고 있는 관계다. 문제는 서로 경쟁하고 투쟁하는 방식, 사회 시스템, 경제 구조, 정치체계이다.

인공지능은 인간정신이 가진 수준의 유연성과 보편성을 지니지 못한다. 물리적 세계에 대한 상식이 부족하고 추론 능력도 부족하다. 자기 인식이 없다.

인공지능이 보여줄 예측 불허의 행동을 사람이 완전히 통제할 수 없는 것이 문제

사람이 주변 세계와 맺는 관계는 그런 시스템이나 체제의 부산물. 시스템이 뒤틀리면 그 안에서 산한 마음으로 수행하는 노동이 끔찍한 결과를 낳을 수 있다.