[진주문고 서점친구들] 비문학 독서모임 <먼저 온 미래> 함께 읽기

'미래'라는 단어가 항상 '희망'과 더불어 느껴지던 때에는 생각조차 하지 못했던 것들에 우울해지곤 한다. 그리고 그 우울을 치유할 방법을 찾지도 못하고 헤매고 있을 줄이야... 오늘 하루를 무사히 지내길 바라는 것은 나만의 문제일까 생각지도 못한 미래에 존재하기 위해서는 인간이 인간다움을 온전히 품는 것이 답이라는 생각이다. 여전히 버리지 못하는 인간의 오만과편견을 버리고 평평하고 공평함을 가지고 인간적인, 너무나 인간적인 모습으로 가치가 이끄는 기술발전을 위해서 우리가 할 수 있는 건 무엇일지...

장강명 작가님이 던져주신 인공지능이 하지 못하는 일! 에 대하여 당신들의 생각은 무엇인지 궁금하다

:)

10/29(목) <먼저 온 미래> 독서모임 <먼저 온 미래> 독서모임 참석 : 효정, 영숙, 정숙, 다담, 병진, 재훈, 순남 효정 : 개인적으로 바둑에 대한 이해가 깊지 않아서 공감이 안 되는 부분. 인공지능에 대한 인간의 무력감을 느꼈다. 가치가 기술을 이끌어야 한다는 말에 공감 영숙 : 알파고와 이세돌의 대결과 이슈에 대해선 알고 있었지만 심도 깊은 속 이야기를 이번에 알게 되어 충격적이었음. 바둑과 관련 종사자들의 이야기가 잘 와 닿지 않는 부분이 있었음. 내가 하는 일이 인공지능으로 대체되는 일이 아니라서 체감이 되지는 않음. <멋진 신세계>와 <1984>의 미래를 비교하는 부분을 읽으며 와 닿는 지점이 있었음. 정숙 : 영화 <이글 아이>, 기계와 인공지능이 통제하는 사회. 나의 미래가 그렇게 된다면 어떨까? 불안하고 불편한 지점이 있었음. 이 책을 읽으며 그 우려를 구체화할 수 있었다. 표지 디자인, 답답함, 숨이 막히는 사회 “기술은 도구일 뿐이라는 거짓말”이라는 이야기에 깊은 공감. 기술 진보의 당연함을 의심하게 됨. 다감 : 우리가 인간의 판단 VS 인공지능의 판단 앞에서 어떤 선택을 하게 될까? 인간적인 삶은 뭘까? 예술이나 문학에 대한 감각, 개념 자체가 바뀔 수 있다는 점. AI의 발달과 변화, 현황이 어떻게 될지 생각하게 되는 계기. <먼저 온 미래> 이미 와 있는 미래를 떠올리는 표제가 섬찟. 병진 : <고스트 바둑왕>, <히카루의 바둑>, 바둑에 대한 이야기가 익숙. 먼저 온 미래가 아니라 벌써 현실화된 오늘의 이야기. 탁월함, 창의성, 아우라. 인간성에 대해 여러 질문 거리를 던지는 책. 재훈 : 실제 바둑 동호인. 바둑 경기 해설에서 AI 적합도를 활용하는 부분이라든가. 신진서 기사의 약진이라든가. 조훈현, 이창호, 신진서 같은 패러다임을 바꾼 기사. 경제적 이익 때문에 인공지능 발달이 가속화 될 수 밖에 없을 것. 유발 하라리의 <넥서스>. 인간의 질문과 경고, 통제 필요함. 순남 : 계속 기울어져 가는 자본주의 사회에서 우리가 바라는 민주주의와 인간성을 지킬 수 있을까? AI 자체의 문제만은 아니지 않을까? 답답한 표지. 1029. 이태원 참사 3주기. 해결되지 않은 많은 문제들이 있는데 새로운 문제들이 계속 벌어진다는 답답함. 그믐 플랫폼에서 있었던 온라인 독서모임. 다양한 고민과 토론이 있었음. 그 속에서 우리가 대안을 고민해야 한다는 생각. 집에 있는 얼리어답터. AI를 활용하는 모습을 실시간으로 확인할 수 있음. #0. 표지 이야기 #1. 생산성, 효율성, 변화. 체험하는 인공지능. - 업무 효율성에 대한 차이. - 코딩 하는 직원들의 인력 감축 - #2. 인간적, 가치 - 인간과 AI 모두 동일한 방식의 언어모델, 사고체계를 가짐. - #3. 인공지능의 한계, 속도를 조절하는 방법 - 탁월함. - 인간성에 대한 이해. 질문. 협의. - 불편함에 대한 상기. 윤리적인 질문. - 무용함에 대한 가치. 다양한 기준과 가치를 찾는 일.

저는 이 책 처음에 그냥 바둑 취재기라고 생각하고 읽었는데 그 기술 문명에 대한 우려 현실 단면 이런 걸 정확하게 보여주는 책이라서 너무 재미있게 읽었고요. 저희가 클 때 고스트 바둑왕이라는 아주 놀라운 만화책이 있었어요. 그냥 평범한 초등학생인데 초등학생인데 어느 날 할아버지 집에 갔다가 그 바둑판에 잠들어 있던 영혼을 깨워요. 그게 아주 옛날 일본 바둑 왕으로 이름 날렸던 사람을 깨운 거예요. 그 영혼이 얘한테만 보여요. 그래서 그 영혼은 너무 바둑을 하고 싶어서 얘한테 바둑을 알려주려고 하는데, 그래서 우연히 그 또래에서 제일 유명한 애를 만나서 바둑을 두는데 얘는 뭣도 모르고 걔가 시키는 대로 둔 거예요. 바둑을 근데 걔가 유명한 애를 이겼어요. 그게 저한테는 인공지능 같았거든요. 거기도 그런 얘기가 나와요. 만약에 전설적인 명인이 현대 세대에 나타나서 바둑을 둔다면 어떻게 둘까, 바둑의 신이라고도 불리는 사람이에요. 영혼이 그런 설정이거든요. 근데 나중에 보게 되면 이 바둑 친구가 성장하면서 바둑 명인 영혼의 말을 안 듣기 시작해요. 왜냐하면 자기의 개성과 자기 스타일이 있으니까 난 이렇게 하고 싶으니까 너한테 도움을 받아서 이기는 건 나한테 하나도 기쁘지 않으니까. 그런 이유로 그래서 막 갈등 같은 걸 다루는 만화거든요. 최근에 복간돼가지고 히카루의 바둑이라는 제목으로 다시 출간됐더라고요.

저는 그 고스트 바둑왕이라는 걸 먼저 한 번 학습했기 때문에 이런 것들이 일어나는 게 이상하지 않았거든요. 그러니까 여기서 AI가 신으로 나오잖아요. 바둑의 신 그러니까 우리가 할 수 없는 것들을 이미 해버린 존재고 그걸 어떻게 하는지 모르지만 이미 그게 이렇게 던지면 승률 몇 퍼센트 승률 5%라고 딱딱 나오는 그러니까 이제 바둑이라는 경기 자체가 기량을 뽐내는 경우가 아니라 AI 적합도 몇 퍼센트를 다투는 장이 되었다는 이런 설정 자체가 너무 흥미로웠는데 사실 이 바둑에 대한 이야기가 아니라 저는 이렇게 읽었어요. 이 책을 그런 세계를 살아가는 그 바둑 기사들은 어떻게 살아가지? 인터뷰가 너무 자세하게 잘 나오잖아요. 근데 인터뷰에 바둑계의 명인들이 다 나오고 프로부터 아마추어부터 해서 여성 기사부터 해서 다 나오는데 해설자부터 해서 그런 게 입체적으로 그려진 게 너무 좋더라고요. 그래서 장강명이 정말 취재 기자가 맞구나, 그래서 회피하거나 인공지능을 회피하고 부정하거나 적응하거나 성공하거나 아니면 다른 것들을 꿈꾸나 뭐 이렇게 다양한 모델들이 나오는데 그 모델을 복합적으로 보여줘서 정말 재미있다고 생각을 했어요.그러면서 던지는 질문 몇 가지가 참 인상적이었는데, 그렇다면 예술이란 뭔가? 탁월함이란 뭔가? 이런 질문. 인간적이란 건 뭔가? 이런 질문, 창의성이란 뭔가? 이런 질문 질문들을 계속 던지잖아요. 그런 질문들을 보면서 좀 여러 가지 생각들을 할 수 있었던 것 같아요.

시작하기 전에 잠깐 표지 이야기 좀 해보고 싶은데 저도 이제 다시 봤거든요. 답답한 빌딩숲이 아니라 여기 유리창에 비치는 하늘이 너무 맑잖아요. 저는 이게 AI 같이 보이는 거예요. 왜냐하면은 실제 세계가 따로 있어요. 우리가 보는 세계 말고 실제 세계. 눈을 돌리면은 가을 하늘이 있어요. 구름이 있고 화창한 가을 하늘이 있는데 우리가 다 이걸 막 빌딩 숲만 보고 있는 이런 느낌. AI가 그런 느낌이에요. AI가 실제 세계가 아니잖아요. 예를 들면 그냥 가상, 인공, 어떤 장치들인데 자연은 그 밖에 있고. 더 큰 세계가 있고 약간 그렇게 디자인해 놓은 것 같다는 생각도 드네요.

인공지능이 나의 글쓰기나 내가 쓰는 환경을 바꾼 거잖아요. 책에서 이야기가 똑같이 나오잖아요. 이 책에서 기술을 쓰는 게 아니라 기술이 우리가 그걸 평가하고 받아들이는 방식 자체를 바꿔버리는 거잖아요. 매뉴얼화해버리면 잘 전달되지 않는 어떤 지식들, 예를 들면, 그게 저는 저희가 가지고 있는 경험의 블랙박스 같은 거라고 생각하거든요. 암묵지 같은 것들이. 근데 사람이 할 때 자신의 고유한 블랙박스 같은 게 있어서 가치가 있죠. 근데 AI가 또 똑같이 그 결과물이 나온다고 해도 AI가 가지고 있는 것들은 어떤 결과로 어떤 배경으로 어떤 인물이 되서 어떤 느낌이 있는지 그런 주체성 책임감 그런 게 전혀 보장되지 않기 때문에 가치가 떨어진다고 생각을 하거든요.

책에서 그 장면 나오잖아요. 그러니까 이세돌과 알파고의 대결을 다큐멘터리 영화로 찍었는데 주인공은 알파고인데 아무리 봐도 이거는 주인공이 이세돌이다 이렇게밖에 연출되지 않는다. 그래서 그거에 대해서 평가하는 측면이 있거든요. 저는 그 말인 것 같아요.그러니까 이세돌과 알파고의 대결이 재미있었던 거는 이세돌이란 구체적인 인격이 있기 때문인 거잖아요. 알파고와 제미나이가 대결을 했다고 하면은 사람들이 아무도 관심을 가지지 않았을 것 같거든요. 혹시 미오기전이라고 아세요? 페이스북에 엄청 신랄하게 서평 쓰시는 분인데 팬들이 어마어마해가지고 그분이 이상한 책들 다 잘 알려지지 않은 책들도 발굴해가지고 그게 다 베스트셀러 되고 막 그런 적이 있었어요. 근데 아무리 좋은 서평들이 있다고 해도 그 구체적인 인격이 없다면은 그걸 신뢰할 수가 없는 거잖아요. 저는 그 생각하면서 저는 항상 인공지능 이슈가 있을 때마다 생각하는데 그 글이 그 콘텐츠가 그 결과물이 가치가 있는지 없는지 판단하는 건 완성도가 아니라 그걸 읽는 사람들의 평가 같은 거예요.

제가 오늘 독서 모임 할 때 얘기하고 싶었던 것 중에 하나가 그거였는데 그럼 인간적이란 건 뭐냐는 거였어요. 인간도 언어로 사고를 하거든요. 인간의 언어 모델을 그대로 도용해서 만든 게 AI거든요. 그러니까 a 다음에 b가 오고 b 다음에 c가 오잖아요. 첫 문장을 쓰고 나서 그다음에 듣는 두 번째 문장을 쓰는 거예요.첫 번째 문장, 두 번째 문장에 어울리는 세 번째 문장을 쓰는 거예요. 근데 첫 번째 문장부터 다섯 번째 문장까지 다 알고 처음부터 쓰지 않잖아요.쓰다가 보면 앞에 거에 어울린 걸 갖다 붙이면서 구체화시킨다고요 .내 생각들을. 근데 이거 똑같이 정확히 똑같이 AI가 AI 거대 언어 모델들이 학습하는 방법이 뭐죠? 앞에 거에 뒤에 거를 붙이면서 맥락성으로 붙이는 거예요.그러면서 우연한 맥락들이 발견됐는데 그것들을 구체화시키면서 만드는 거죠.

그러니까 처음에는 그게 우스꽝스럽다고 말했는데 인간들이 생각하는 것도 똑같은 구조로 생각하거든요. 몇 개 개념과 몇 개의 단어가 몇 개의 정보가 주어지면 그것들을 말이 되게 이어붙이는 걸 하고 그게 잘 되면 그게 예술이라고 하고 그게 창의력이라고 하고 그러잖아요. 그러니까 인간과 AI하고 창의적인 걸 구분하기가 너무 어렵고 사실 똑같은 모델로 언어적인 모델로 똑같다라고 저는 생각하거든요. 근데 뭐가 차이가 나느냐, 말한 것처럼 받아들이는 사람이랑 차이가 나는 거죠. 신진서가 꼬마 때부터 바둑을 했잖아요. 그래서 애가 막 어른들 사이에서 세계를 제패하잖아요. 그 성장 과정을 우리가 다 봐왔기 때문에 신진서가 AI를 활용하면서 막 바둑을 하는데 얘는 진짜 대단하다가 되는 거죠. 그러니까 그 성장 스토리라는 게 있어서 배경이라는 게 있어서 구체성이라는 게 있어서 그러니까 그 구체성과 그 배경과 그 시간성이 있으면은 가치가 생기는 것 같고 그게 없으면은 그게 안 생기는 것 같거든요. 제가 볼 때는 그러니까 똑같은 근데 창의성이나 그런 건 다 똑같은데 그 배경이나 그런 것들을 읽을 수 있는 주변 사람들이 있으냐 없느냐의 문제인 것 같아요.

진짜 좋은 작품들 그러니까 미술 작품이나 좋은 영화들이나 압도되는 그런 풍경들이 있어요. 지금 딱 생각나는 게 채석강 같은 건데 채석강 같은 데 가서 파도 막 치고 있는데 그 켜켜이 쌓여 있는 바위들을 보고 있으면은 아 이 바위가 어디까지 이어져 있구나 이게 이렇게 이어질 거라는 그런 그 시간성에 대한 생각들 확 들거든요. 그러면서 이렇게 뭔가 숭고함이 압도되는 그런 느낌 있잖아요. 감동이라는 게 있잖아요. 그러니까 감동이나 숭고함 같은 것들은 그런 구체적인 질감 같은 게 있는 것 같아요. 구체적인 질감들 우리가 상상할 수 있는 맥락들 근데 인공지능에는 그런 것들이 소거돼 있다고 매끄럽다고 생각해 버리니까 좀 감동이 덜하다는 생각이 좀 들고 그러니까 인간적 가치라는 것들 뭔가 풍부한 것들 이 책에 그 얘기를 안 썼더라고요. 이 책에 정말 어울리는 개념 중에 하나가 아우라라는 개념이잖아요. 그 아우라가 어디서 오는지 계속 생각하게 되더라구요.

AI가 어떻게 해서 그런 답을 내는지를 아무도 설명하지 못하는 시대가 됐고 그게 블랙박스라면 저는 AI가 AI를 넘어설 것 같거든요. 그러니까 그러니까 인간을 넘어설 것 같거든요. 인간이 인간일 수 있는 이유 중에 하나가 뭐냐면 인간한테는 블랙박스가 이렇게 딱 있어서라고 생각해요. 그러니까 다 설명되고 다 해결되면 그게 로봇이잖아요. 우리도 서로 평가하고 다 할 수 있잖아요. 근데 우리가 서로를 존중하고 같이 얘기하고 할 수 있는 거는 우리가 서로를 잘 모르기 때문이에요. 저 사람의 내면이라는 게 있고 저 사람한테 블랙박스가 있고 저 사람한테 뭔가 고유한 가치가 있고 이런 것들이 블랙박스 안에 있는 건데, AI도 그렇게 블랙박스라고 하면은 AI도 거의 인간처럼 우리가 알 수 없는 존재가 되는 거잖아요. 그렇다면 AI와 인간의 차이는 뭐지 인간은 어떤 거에서 뭔가 차이가 나지 이런 생각들을 계속하면서 저 책을 읽었는데 그게 아까 전에는 뭐라고 말했냐면 시간성 경험 구체적인 것들 어떤 고유함 어떤 것들 유한성 뭐 이런 것들일 수도 있겠고.

책에서 탁월함이라는 개념이 나와서 정말 반가웠는데, 고대 그리스에서 탁월함이라는 건 아르떼라고 말하는데요. 한국문화예술위원회도 아르떼예요. 아르떼가 옛날에는지덕체 할 때 덕으로 번역됐거든요.지금은 좀 번역이 일본식 표현이라서 지금 번역할 때는 탁월함이라고 번역을 하는데 그 아르떼라는 것들이 완전함 완전무결함 숭고함 뭐 이런 것들을 포함하는 개념이에요. 이 아르떼를 어디서 이렇게 발견하냐면 고대 그리스인들은 올림픽에서 발견해요. 이상적으로 단련된 몸들 이상적인 비례 이상적인 육체들이 막 몸을 움직여서 달리고 뛰고 창 던지고 막 그냥 격투하고 이럴 때 그게 탁월하다고 표현하는 거예요. 완성된 인간상 이런 것들 있잖아요. 그런 걸 신으로 만들어 놨죠. 어쨌든 네 완벽함이라는 개념들 있잖아요. 근데 그 탁월함이라는 게 재미있었던 게 저는 그 탁월함이라는 게 공감되는 탁월함이라는 거예요 .예를 들어서 고대 그리스 시민들 남자 시민들은 다 스포츠를 했거든요. 교육을 받고 다 수학과 스포츠를 하고 그러니까 시민들은. 노비가 아닌 남성들은 그랬기 때문에 자기들이 몸을 움직이고 공부를 하고 뭔가를 했기 때문에 위대한 현인들이나 운동 선수들이나 올림픽에 나오는 사람들이 그렇게 뭔가 자기 기량을 뽐냈을 때 저게 얼마나 대단한 건지 아는 거예요. 그러니까 이해가 있기 때문에 이 다음에 어떤 거 있고 이 다음에 어떤 게 있고 다음에 저 사람은 저런 걸 이뤘구나 그러니까 그런 현실적인 구체적인 세계가 있어서 탁월함이라는 것들이 기능했다고 생각하는데 AI 시대에는 약간 이 책 표지처럼 되는 거죠.그러니까 그쪽에 멋진 것들이 막 나오고 있는데 아무도 그 내용을 이해하지 못하고 우리가 공감하지 못하면 그 탁월함은 그냥 탁월함이 아니라 그냥 번지르르함이 되는 거죠. 그럴듯한. 그러니까 그 탁월함이 무엇인지 탁월함이 어떤 것인지 좀 우리가 공감할 수 있는 것도 어떤 것인지 약간 그런 것들을 생각해 보는 게 그러니까 그게 뭐 여기서는 윤리라든가 사상이라든가 어떤 그런 것들이 뒷받침되는 기술이 필요하다 이렇게 얘기를 하잖아요. 그런 것들이 좀 뭐가 인간적이고 뭐가 탁월하고 뭐가 가치 있는 거지 이런 질문들을 계속 되묻고 있거든요. 여기 이 책에서는 바둑에서 탁월함이란 뭐지 바둑에서의 그런 기풍이라는 건 뭐지 계속 이런 거 질문하잖아요. 근데 이걸 똑같이 옮겨서 인간들한테 계속 그런 걸 물어야 된다고 생각해요.그러니까 구체적인 어떤 배경들을 가지고 약간 그런 작업들이 필요하다고 이 책에서 말하는 것 같아요.

제가 이쪽 생태계에 관심이 참 많은데요. 배민이 배달의 민족 배달의 민족 처음 나왔을 때 우리가 무슨 민족이니까 배달의 민족입니까?막 이렇게 광고도 막 하고 엄청 많이 했잖아요. 그리고 배달의 민족 제일 처음 나왔을 때 이용자들의 평가 우리가 이제 별점을 믿을 수 없다.근데 구체적인 이용자들의 평가를 받으니까 그걸 바탕으로 이제 성장한 업체잖아요. 그래서 한참 동안 성장을 했는데 지금 배달의 민족이 그 정도로 가치가 있나요? 여러분이 느낄 때 어땠어요? 저는 배달의 민족이 이제 평가를 안 믿거든요. 배달민족의 댓글 같은 거 안 믿거든요. 광고가 최우선에 위치돼 있고 그 광고주들이 도움이 안 되는 별점들을 삭제할 수 있게 돼 있어요. 그런 결정으로 돼 있거든요. 광고에서 올리고 별점 도움이 안 되면 삭제하고 이렇게 하면서 광고판이 됐어요. 그냥 광고판이 배달의 민족이 이용자 가치나 고객들의 경험들 같은 것들이 자산이었는데 사실 그리고 배달의 민족 지금 팔렸거든요. 독일에 팔렸거든요. 그런 것처럼 그리고 이제 좀 더 좀 더 좀 더 있으면은 배달의 민족은 없어지겠죠. 말한 것처럼 그게 단순히 지금 평가할 수 있는 기준 광고 수 아니면 투자금 수익 모델 이런 걸로 평가되는 것 같지는 않아요. 그렇기 때문에 앞으로 네이버가 망한 것처럼, 네이버 망하고 있거든요. 다음도 지금 망하고 있거든요. 우리가 지금 가지고 있는 몇 가지로 평가 안 되는 훨씬 더 많은 가치나 돈 같은 거 그게 물려 있다고 생각해요. 광고가 다 유튜브로 가고 인스타로 가고 구글로 가는 것처럼 나중엔 다 AI로 가겠죠. 이 가속화를 막을 수 있는 방법이 인공지능의 한계, 인간적인 것, 의미있는 것의 의미를 다시 발견하는 것으로 이어지는 거라는 생각이 들어요.