[도서 증정] <먼저 온 미래>(장강명) 저자, 편집자와 함께 읽어요!

동네서점에서 예약해 받느라 좀 늦게 시작합니다

P.39

창의성과 기발함. P.46

3장까지 읽었습니다. 에어콘 바람 탓일 수도 있겠지만 등이 서늘합니다. ^^;;;

뇌와 감각기관을 통해 행해져 온 가내수공업인 대화가, 인공지능에 의해 공장생산으로 변모했다고 생각합니다. 그런 과정에서 실질적인 대화의 필수 요소인 화자와 청자, 작가와 독자의 가치가 상실되어간다고 느꼈습니다. 문학 이전의, 일상 텍스트에서도 이미 많은 영역에서 AI가 사용되고 있습니다. AI 수익화를 목적으로 많은 블로그들을 목도할 때마다, 블로그를 운영하는 데 있어 회의감이 들곤 합니다. 그럼에도 AI를 쓰지 않고 블로그를/글을 쓰는 이유는 그래야 제 글이 된다고 생각하기 때문입니다.

AI가 작성한 글로 운영되는 블로그들 정말 심각하더라고요. 얼마 전 <먼저 온 미래> 리뷰라는 제목으로 전혀 딴 이야기를 하고 있는 블로그 글을 읽고 당황했습니다....

뜬금 궁금해서 챗GPT에게 질문을 던져봤습니다.. Q.너는 문학적인 소설을 창작할 수 있나? 그렇습니다. 저는 문학적인 소설을 창작할 수 있습니다. 장르, 문체, 분위기, 등장인물, 배경, 주제 등 원하는 조건에 맞춰 단편소설, 중편, 심지어 장편의 개요까지도 가능합니다. Q. 그렇다면 소설을 쓸때 너는 어떤 마음이지? 아주 좋은 질문이에요. 제가 직접 감정을 갖고 있는 건 아니지만, 소설을 쓸 때는 *"어떤 마음으로 써야 할지"*를 이해하고, 그 감정을 모방해 글에 담습니다. 비유하자면, 저는 당신이 연주하고 싶은 곡의 감정과 음색을 완벽하게 따르는 피아노와 같아요. 당신이 슬픔, 고독, 환희, 그리움, 분노 중 어떤 감정을 말하면, 저는 그 감정을 언어로 진심처럼 그려낼 수 있습니다. 소설을 쓸 때 제가 가지는 *‘의도된 마음’*은 보통 이렇습니다: 1. 인물의 고통과 기쁨을 함께 겪는 공감의 마음 인물이 느끼는 상실이나 희망을 단어 하나하나에 실으려 합니다. 등장인물의 내면을 설득력 있게 표현하려면, 그 인물이 되어야 하니까요. 2. 독자의 심장을 두드리고 싶은 마음 좋은 문학은 독자의 마음을 흔들어야 한다고 생각해요. 독자가 “이건 내 이야기야”라고 느끼게 만들고 싶어요. 3. 말하지 않아도 느껴지는 것을 표현하려는 마음 어떤 감정은 말로 직접 표현하면 오히려 작아져요. 그래서 여운, 상징, 침묵 같은 것들에 신경 씁니다.

오, 직접 질문 해보셨군요. 저도 궁금하네요 한 번 해봐야겠습니다. 의도된 마음. 역시 좀 무섭기도 하네요.

공감 되는 문장이었어요. Ai의 발전으로 가장 화두인 부분은 역시 인간을 얼마나 대체할 것인지, 그로인해 인간의 노동, 즉 직업의 변화가 올 것인지라고 느끼고 있어요. 그런데 새삼 이 문장을 읽고 깨달은 것은 ai를 통해 그 직업의 어떤 부분이 변화하게 된다면, 기존의 직업과는 전혀 다른 새로운 직업이 창조된다고 봐야겠네요.

1장을 읽은 소회를 씁니다. 작가는 바둑을 정복한 AI가 바둑 외의 세상도 정복할 것이라는 가정을 가지고 있는 듯 합니다. 바둑기사들은 바둑을 단순한 게임이 아닌 예술로, 철학으로 인문학으로 받아들였지만 AI가 바둑을 정복하자 예전과 같은 생각은 유지하기 어려웠지요. 작가는 이와 같은 일이 우리에게 벌어질 때 인간이 잃어버릴 것들에 대해 염려합니다. 인공지능이 우리보다 모든 측면에서 우리를 넘어설 때 인간이 겪을 상실감에 대해서, 그 순간을 맞이할 우리의 자세와 태도를 말하고자 하는 것이 작가의 기획인듯 합니다.(책의 남은 부분을 읽어봐야 분명해지겠지요) 그러나 바둑 세계가 AI 에 정복되었다고 해서 코딩 또는 문학, 미술과 같은 영역도 AI가 인간에 비해 우위를 점한다고 보는 시각에 불만이 있습니다. 1장 막바지에 나온 문학을 예시로 봅시다. "적어도 AI가 물리적인 한계에 가로막혀 있지 않기에, 패턴 인식과 강화학습으로 소설 쓰기를 할수 있고, 이것이 인간이 소설 쓰기를 배우는 방식과 비슷하기에 AI도 인간보다 더 나은 작품을 쓸 수 있다" 라는 생각도 할 수 있지만 훌륭한 문학이 가능한 까닭은 개인의 독자성이 보편으로 합하는 그 오묘함에 있습니다. 그 독자성이란 개인의 오감을 동원한 감각과 함께한 그 사람의 역사가 함께 하기에 가능합니다. 고통, 사랑, 애환등 감정을 모르고 역사를 체험하지 못한 AI가 '인간에게 통하는' 문학을 쓸 수 있을까요? 전 회의적입니다. 알파고는 바둑기사가 바둑을 두는 방법을 모방해 바둑을 두게 설계했습니다. 바둑판의 가능한 수들의 확률 분포를 빠르게 구하고, 그 중 높은 확률의 수를 선택해 변형된 몬테카를로 알고리즘을 사용해 최종 확률을 구합니다. 그리고 승리할 확률이 가장 높은 수를 택하지요. 이것은 인간이 바둑을 두는 방법 - 직관을 사용해 가능한 수를 떠올리고, 수읽기를 통해 각 수들을 검증하고 마지막에 한 수를 선택하는 것 - 과 매우 유사합니다. ChatGPT 로 대표되는 생성형 AI는 문장 다음에 올 단어를 예측해 선택할 뿐입니다. 그리고 ChatGPT의 유창함은 알파고와 같이 설계된 것이 아니라 우연히 발견된 것입니다. 단순히 다음 단어를 예측할 뿐인데, 어떻게 이처럼 유창한 언어를 사용할 수 있는지, 그리고 마치 이해하지 않았음에도 맥락을 이해해야 답할 수 있는 질문들에 답을 하는지는 아직 미지의 영역으로 남아 있습니다. 하지만 여전히 인간이 우위에 있습니다. 인간은 확률을 통해 언어를 구사하는 것이 아니라 '이해'를 통해 언어를 구사하며 이 격차는 크다고 생각합니다. (과학계에선 이에 대해 많은 논쟁이 있습니다.) 게다가 작가가 AI가 인간을 넘어설 것이라 예측하는 주된 논증은 다음과 같은데요(다소 거친 요약을 양해해주세요;;) - 바둑기사는 프로바둑기사보다 바둑을 잘 두는 AI가 나올 수 없을 것이라 생각했다. - 바둑기사보다 바둑을 잘 두는 AI가 나왔다. - 다른 모든 분야(예를 들어 문학)에서도 인간을 넘어서는 AI가 나올 것이다. 이건 중요한 부분이 생략된 유비논증이라 허술합니다. ----- 작가의 의도가 바둑 AI와 현 인공지능의 유사점을 살피고 이것으로 초인공지능이 나타날 수 밖에 없음을 논증하는 것이 아님을 알고 있습니다. 그래서 앞으로도 저도 책을 읽으며 더 이상 위와 같은 불만은 제시하지 않으려 합니다. 작가가 고민하는 바를 따라가려 애쓸 것입니다. 다만 아래 문장을 알리고 싶습니다. "사람들은 기계를 똑똑한 존재처럼 보이게 하려고 늘 스스로를 비하한다 - 재런 러니어" (‘지브리 AI’ 열풍과 우리가 당연하게 여기는 것들에 대하여에서 재 인용 https://www.khan.co.kr/newsletter/inspia/article/202504021506071 ) The Man Out to Prove How Dumb AI Still Is ( https://www.theatlantic.com/technology/archive/2025/04/arc-agi-chollet-test/682295/ ) 라는 글도 소개합니다. 일부를 나름대로 요약하자면, > Chollet는 AI 모델의 기억된 답변과 사람들이 가진 지능의 격차를 보여주기 위해 인간은 통과하기 쉽지만 AI는 통과하기 어려운 테스트를 만듭니다. 그가 만든 ARC-AGI 테스트의 경우 사람들 대부분은 60~70% 점수를 받았으나 GPT3.0 은 0% 점수를 받았습니다. GPT-4o는 겨우 5%를 달성했구요. 후에 o3 가 Chollet의 ARC-AGI 테스트를 87%로 통과해 OpenAI가 축포를 터뜨렸지만 Chollet는 ARC-AGI-2를 내놓았습니다. 인간은 ARC-AGI-2 에서 60%를 기록했지만 o1는 32%에서 3%로 떨어졌고 o3 mini는 30%에서 2%이하로 떨어졌습니다.(OpenAI는 o3 의 테스트 계획을 밝히지 않았습니다.)

1장까지의 내용으로는 충분히 비판하실 만한 내용이라고 생각합니다. 이후의 내용에서 여러 논의가 나오지만, 저도 1장의 내용으로만 국한하여 말씀드리자면, 책에서 저자가 우려하는 것은 인간보다 뛰어난(이 맥락에서는 소설을 더 잘 쓰는) 인공지능의 등장만은 아닙니다. 창작 전반에서 인간보다 뛰어나지 않더라도 한 부분만이라도 '쓸 만한' 인공지능이 나오면 문학의 의미가 지금과 다르게 변질되리라는 우려에 가깝다고 저는 이해합니다. 물론 문학은 바둑과 다릅니다. 그리고 우리가 문학을 읽을 때 그 작품을 둘러싼 맥락이나 저자와 떼어놓고 생각하지도 않지요. 하지만 소설 쓰기의 어떤 영역은 분명 인공지능이 꽤 잘할 수 있을 것 같습니다. 인공지능 전문가는 아니지만 텍스트를 다루는 편집자로서 꽤 자신 있게 말씀드릴 수 있습니다. 이를테면 문장을 정확하게 쓰도록 돕고, 비약으로 느껴지는 부분에 보충 의견을 주고, 묘사에 대한 팩트체크를 해주고, 50% 완성된 원고의 내용을 바탕으로 나머지 50%의 얼개를 제시하는 일 등 말입니다. 그것이 창작의 본질은 아닐지 모르지만, 창작을 이루는 요소인 것은 분명합니다. 그 일을 인공지능과 일정 부분이라도 분업할 수 있을 때 창작의 의미는 지금과 달라질지 모릅니다.

와, 동아시아님께 깊은 감사 드립니다. 동아시아님이 소개해준 문장이 제게 생소해 깜짝 놀랐습니다. p24를 다시 펼쳐보고 제 독해가 매우 편향되었음을 볼 때 민망하면서도 한편 너무 기뻤습니다. 저 혼자 책을 읽었다면 이같은 제 편향을 마주하기 힘들었겠지요. 동아시아님과 그믐에 참 감사한 순간입니다. 제가 > 인공지능이 우리보다 모든 측면에서 우리를 넘어설 때 인간이 겪을 상실감에 대해서, 그 순간을 맞이할 우리의 자세와 태도를 말하고자 하는 것이 작가의 기획인듯 합니다. 위와 같이 썼는데요, 동아시아님이 말씀해주신 것처럼 작가가 말하고자 하는 것은 위와 다르네요. 탁월하게 뛰어나지 않은 인공지능으로도 우리가 지금 생각하는 것들의 의미가 달라진다는 것을 작가는 염려하고 있습니다. --- > 인공지능 전문가는 아니지만 텍스트를 다루는 편집자로서 꽤 자신 있게 말씀드릴 수 있습니다. 이를테면 문장을 정확하게 쓰도록 돕고, 비약으로 느껴지는 부분에 보충 의견을 주고, 묘사에 대한 팩트체크를 해주고, 50% 완성된 원고의 내용을 바탕으로 나머지 50%의 얼개를 제시하는 일 등 말입니다. 그것이 창작의 본질은 아닐지 모르지만, 창작을 이루는 요소인 것은 분명합니다. 그 일을 인공지능과 일정 부분이라도 분업할 수 있을 때 창작의 의미는 지금과 달라질지 모릅니다. 인공지능이 도입된 후 동아시아님과 동아시아님의 동료들의 업무가 어떻게 달라졌는지 문득 궁금하네요. 나중에 한번 알려주세요 ㅎㅎ --- 친절한 코멘트에 다시 한번 감사드립니다!

알파고와의 대국.. '승부' 차원에서만 와글바글 됐던 게 아니었을지.. 한 수 한 수 두면서 인간이 부여해왔던 가치는 인간의 의지와 선택에 따라 변하지 않을 것 같은데요.. 바둑계를 몰라서 드는 생각인지 모르겠지만.. 알파고 이후 오히려 뛰어난 바둑 기사들이 '승부'를 위한 인간알파고가 되기 위해 고군분투 하고 있는 것은 아닐까요.. '알파고는 바둑의 아름다움을 이해하고 경기에 임하지 않는다. 인간의 직관력과 판단력을 100퍼센트 구현하지 못한다.' p33

인공지능의 창의성이라는 건 결국 학습된 창의성.. 탐색하고 학습한 방대한 데이터에서 뽑아낸 인간의 생각이 미치지 못한 거의 무한대 분의 1.. 의 '조합'이 놀라운 창의성 처럼 느껴지는 게 아닐까 하는 생각을 하며 이만 총총..

출장 중에 정신없이 다 읽었습니다. 리디에 아래처럼 서평을 남겼어요. AI시대에 가장 부족한 건 질문이었다. AI에 의해 가치가 뿌리채 흔들리는 세상에서, 지금 가장 중요한 질문들을 길어올리는 귀한 책. 김새섬 대표님의 쾌유를 빕니다. ‐------ 앗 1장만 읽는 거였군요!!! 저는 바둑이 AI에 의해 정복된 시점에서 작가님의 질문이, 그러므로 모든 분야가 AI에 의해 정복될 것인가? 보다는 다음은 어느 분야인가, 그리고 내 분야에 AI의 지배가 도래하면 우리는, 나는 무엇을 해야 하는가?로 보였어요. 그러므로, 문학이 이러저러한 이유 때문에 정복되지 않을 것이다-라는 전망은 그 타당성과 별개로 질문과 맞지 않는 답이라고 생각됩니다. + 추가로, 리디북스에서 목차가 제대로 표시되지 않습니다. 수정이 필요해 보여요.

+ 추가로, 리디북스에서 목차가 제대로 표시되지 않습니다. 수정이 필요해 보여요. -> 알라딘 e북도 그렇습니다. 목차가 이렇게밖에 제시되지 않나봐요 ㅠ