[진주문고 서점친구들] 비문학 독서모임 <먼저 온 미래> 함께 읽기

인공지능이 나의 글쓰기나 내가 쓰는 환경을 바꾼 거잖아요. 책에서 이야기가 똑같이 나오잖아요. 이 책에서 기술을 쓰는 게 아니라 기술이 우리가 그걸 평가하고 받아들이는 방식 자체를 바꿔버리는 거잖아요. 매뉴얼화해버리면 잘 전달되지 않는 어떤 지식들, 예를 들면, 그게 저는 저희가 가지고 있는 경험의 블랙박스 같은 거라고 생각하거든요. 암묵지 같은 것들이. 근데 사람이 할 때 자신의 고유한 블랙박스 같은 게 있어서 가치가 있죠. 근데 AI가 또 똑같이 그 결과물이 나온다고 해도 AI가 가지고 있는 것들은 어떤 결과로 어떤 배경으로 어떤 인물이 되서 어떤 느낌이 있는지 그런 주체성 책임감 그런 게 전혀 보장되지 않기 때문에 가치가 떨어진다고 생각을 하거든요.

책에서 그 장면 나오잖아요. 그러니까 이세돌과 알파고의 대결을 다큐멘터리 영화로 찍었는데 주인공은 알파고인데 아무리 봐도 이거는 주인공이 이세돌이다 이렇게밖에 연출되지 않는다. 그래서 그거에 대해서 평가하는 측면이 있거든요. 저는 그 말인 것 같아요.그러니까 이세돌과 알파고의 대결이 재미있었던 거는 이세돌이란 구체적인 인격이 있기 때문인 거잖아요. 알파고와 제미나이가 대결을 했다고 하면은 사람들이 아무도 관심을 가지지 않았을 것 같거든요. 혹시 미오기전이라고 아세요? 페이스북에 엄청 신랄하게 서평 쓰시는 분인데 팬들이 어마어마해가지고 그분이 이상한 책들 다 잘 알려지지 않은 책들도 발굴해가지고 그게 다 베스트셀러 되고 막 그런 적이 있었어요. 근데 아무리 좋은 서평들이 있다고 해도 그 구체적인 인격이 없다면은 그걸 신뢰할 수가 없는 거잖아요. 저는 그 생각하면서 저는 항상 인공지능 이슈가 있을 때마다 생각하는데 그 글이 그 콘텐츠가 그 결과물이 가치가 있는지 없는지 판단하는 건 완성도가 아니라 그걸 읽는 사람들의 평가 같은 거예요.

제가 오늘 독서 모임 할 때 얘기하고 싶었던 것 중에 하나가 그거였는데 그럼 인간적이란 건 뭐냐는 거였어요. 인간도 언어로 사고를 하거든요. 인간의 언어 모델을 그대로 도용해서 만든 게 AI거든요. 그러니까 a 다음에 b가 오고 b 다음에 c가 오잖아요. 첫 문장을 쓰고 나서 그다음에 듣는 두 번째 문장을 쓰는 거예요.첫 번째 문장, 두 번째 문장에 어울리는 세 번째 문장을 쓰는 거예요. 근데 첫 번째 문장부터 다섯 번째 문장까지 다 알고 처음부터 쓰지 않잖아요.쓰다가 보면 앞에 거에 어울린 걸 갖다 붙이면서 구체화시킨다고요 .내 생각들을. 근데 이거 똑같이 정확히 똑같이 AI가 AI 거대 언어 모델들이 학습하는 방법이 뭐죠? 앞에 거에 뒤에 거를 붙이면서 맥락성으로 붙이는 거예요.그러면서 우연한 맥락들이 발견됐는데 그것들을 구체화시키면서 만드는 거죠.

그러니까 처음에는 그게 우스꽝스럽다고 말했는데 인간들이 생각하는 것도 똑같은 구조로 생각하거든요. 몇 개 개념과 몇 개의 단어가 몇 개의 정보가 주어지면 그것들을 말이 되게 이어붙이는 걸 하고 그게 잘 되면 그게 예술이라고 하고 그게 창의력이라고 하고 그러잖아요. 그러니까 인간과 AI하고 창의적인 걸 구분하기가 너무 어렵고 사실 똑같은 모델로 언어적인 모델로 똑같다라고 저는 생각하거든요. 근데 뭐가 차이가 나느냐, 말한 것처럼 받아들이는 사람이랑 차이가 나는 거죠. 신진서가 꼬마 때부터 바둑을 했잖아요. 그래서 애가 막 어른들 사이에서 세계를 제패하잖아요. 그 성장 과정을 우리가 다 봐왔기 때문에 신진서가 AI를 활용하면서 막 바둑을 하는데 얘는 진짜 대단하다가 되는 거죠. 그러니까 그 성장 스토리라는 게 있어서 배경이라는 게 있어서 구체성이라는 게 있어서 그러니까 그 구체성과 그 배경과 그 시간성이 있으면은 가치가 생기는 것 같고 그게 없으면은 그게 안 생기는 것 같거든요. 제가 볼 때는 그러니까 똑같은 근데 창의성이나 그런 건 다 똑같은데 그 배경이나 그런 것들을 읽을 수 있는 주변 사람들이 있으냐 없느냐의 문제인 것 같아요.

진짜 좋은 작품들 그러니까 미술 작품이나 좋은 영화들이나 압도되는 그런 풍경들이 있어요. 지금 딱 생각나는 게 채석강 같은 건데 채석강 같은 데 가서 파도 막 치고 있는데 그 켜켜이 쌓여 있는 바위들을 보고 있으면은 아 이 바위가 어디까지 이어져 있구나 이게 이렇게 이어질 거라는 그런 그 시간성에 대한 생각들 확 들거든요. 그러면서 이렇게 뭔가 숭고함이 압도되는 그런 느낌 있잖아요. 감동이라는 게 있잖아요. 그러니까 감동이나 숭고함 같은 것들은 그런 구체적인 질감 같은 게 있는 것 같아요. 구체적인 질감들 우리가 상상할 수 있는 맥락들 근데 인공지능에는 그런 것들이 소거돼 있다고 매끄럽다고 생각해 버리니까 좀 감동이 덜하다는 생각이 좀 들고 그러니까 인간적 가치라는 것들 뭔가 풍부한 것들 이 책에 그 얘기를 안 썼더라고요. 이 책에 정말 어울리는 개념 중에 하나가 아우라라는 개념이잖아요. 그 아우라가 어디서 오는지 계속 생각하게 되더라구요.

AI가 어떻게 해서 그런 답을 내는지를 아무도 설명하지 못하는 시대가 됐고 그게 블랙박스라면 저는 AI가 AI를 넘어설 것 같거든요. 그러니까 그러니까 인간을 넘어설 것 같거든요. 인간이 인간일 수 있는 이유 중에 하나가 뭐냐면 인간한테는 블랙박스가 이렇게 딱 있어서라고 생각해요. 그러니까 다 설명되고 다 해결되면 그게 로봇이잖아요. 우리도 서로 평가하고 다 할 수 있잖아요. 근데 우리가 서로를 존중하고 같이 얘기하고 할 수 있는 거는 우리가 서로를 잘 모르기 때문이에요. 저 사람의 내면이라는 게 있고 저 사람한테 블랙박스가 있고 저 사람한테 뭔가 고유한 가치가 있고 이런 것들이 블랙박스 안에 있는 건데, AI도 그렇게 블랙박스라고 하면은 AI도 거의 인간처럼 우리가 알 수 없는 존재가 되는 거잖아요. 그렇다면 AI와 인간의 차이는 뭐지 인간은 어떤 거에서 뭔가 차이가 나지 이런 생각들을 계속하면서 저 책을 읽었는데 그게 아까 전에는 뭐라고 말했냐면 시간성 경험 구체적인 것들 어떤 고유함 어떤 것들 유한성 뭐 이런 것들일 수도 있겠고.

책에서 탁월함이라는 개념이 나와서 정말 반가웠는데, 고대 그리스에서 탁월함이라는 건 아르떼라고 말하는데요. 한국문화예술위원회도 아르떼예요. 아르떼가 옛날에는지덕체 할 때 덕으로 번역됐거든요.지금은 좀 번역이 일본식 표현이라서 지금 번역할 때는 탁월함이라고 번역을 하는데 그 아르떼라는 것들이 완전함 완전무결함 숭고함 뭐 이런 것들을 포함하는 개념이에요. 이 아르떼를 어디서 이렇게 발견하냐면 고대 그리스인들은 올림픽에서 발견해요. 이상적으로 단련된 몸들 이상적인 비례 이상적인 육체들이 막 몸을 움직여서 달리고 뛰고 창 던지고 막 그냥 격투하고 이럴 때 그게 탁월하다고 표현하는 거예요. 완성된 인간상 이런 것들 있잖아요. 그런 걸 신으로 만들어 놨죠. 어쨌든 네 완벽함이라는 개념들 있잖아요. 근데 그 탁월함이라는 게 재미있었던 게 저는 그 탁월함이라는 게 공감되는 탁월함이라는 거예요 .예를 들어서 고대 그리스 시민들 남자 시민들은 다 스포츠를 했거든요. 교육을 받고 다 수학과 스포츠를 하고 그러니까 시민들은. 노비가 아닌 남성들은 그랬기 때문에 자기들이 몸을 움직이고 공부를 하고 뭔가를 했기 때문에 위대한 현인들이나 운동 선수들이나 올림픽에 나오는 사람들이 그렇게 뭔가 자기 기량을 뽐냈을 때 저게 얼마나 대단한 건지 아는 거예요. 그러니까 이해가 있기 때문에 이 다음에 어떤 거 있고 이 다음에 어떤 게 있고 다음에 저 사람은 저런 걸 이뤘구나 그러니까 그런 현실적인 구체적인 세계가 있어서 탁월함이라는 것들이 기능했다고 생각하는데 AI 시대에는 약간 이 책 표지처럼 되는 거죠.그러니까 그쪽에 멋진 것들이 막 나오고 있는데 아무도 그 내용을 이해하지 못하고 우리가 공감하지 못하면 그 탁월함은 그냥 탁월함이 아니라 그냥 번지르르함이 되는 거죠. 그럴듯한. 그러니까 그 탁월함이 무엇인지 탁월함이 어떤 것인지 좀 우리가 공감할 수 있는 것도 어떤 것인지 약간 그런 것들을 생각해 보는 게 그러니까 그게 뭐 여기서는 윤리라든가 사상이라든가 어떤 그런 것들이 뒷받침되는 기술이 필요하다 이렇게 얘기를 하잖아요. 그런 것들이 좀 뭐가 인간적이고 뭐가 탁월하고 뭐가 가치 있는 거지 이런 질문들을 계속 되묻고 있거든요. 여기 이 책에서는 바둑에서 탁월함이란 뭐지 바둑에서의 그런 기풍이라는 건 뭐지 계속 이런 거 질문하잖아요. 근데 이걸 똑같이 옮겨서 인간들한테 계속 그런 걸 물어야 된다고 생각해요.그러니까 구체적인 어떤 배경들을 가지고 약간 그런 작업들이 필요하다고 이 책에서 말하는 것 같아요.

제가 이쪽 생태계에 관심이 참 많은데요. 배민이 배달의 민족 배달의 민족 처음 나왔을 때 우리가 무슨 민족이니까 배달의 민족입니까?막 이렇게 광고도 막 하고 엄청 많이 했잖아요. 그리고 배달의 민족 제일 처음 나왔을 때 이용자들의 평가 우리가 이제 별점을 믿을 수 없다.근데 구체적인 이용자들의 평가를 받으니까 그걸 바탕으로 이제 성장한 업체잖아요. 그래서 한참 동안 성장을 했는데 지금 배달의 민족이 그 정도로 가치가 있나요? 여러분이 느낄 때 어땠어요? 저는 배달의 민족이 이제 평가를 안 믿거든요. 배달민족의 댓글 같은 거 안 믿거든요. 광고가 최우선에 위치돼 있고 그 광고주들이 도움이 안 되는 별점들을 삭제할 수 있게 돼 있어요. 그런 결정으로 돼 있거든요. 광고에서 올리고 별점 도움이 안 되면 삭제하고 이렇게 하면서 광고판이 됐어요. 그냥 광고판이 배달의 민족이 이용자 가치나 고객들의 경험들 같은 것들이 자산이었는데 사실 그리고 배달의 민족 지금 팔렸거든요. 독일에 팔렸거든요. 그런 것처럼 그리고 이제 좀 더 좀 더 좀 더 있으면은 배달의 민족은 없어지겠죠. 말한 것처럼 그게 단순히 지금 평가할 수 있는 기준 광고 수 아니면 투자금 수익 모델 이런 걸로 평가되는 것 같지는 않아요. 그렇기 때문에 앞으로 네이버가 망한 것처럼, 네이버 망하고 있거든요. 다음도 지금 망하고 있거든요. 우리가 지금 가지고 있는 몇 가지로 평가 안 되는 훨씬 더 많은 가치나 돈 같은 거 그게 물려 있다고 생각해요. 광고가 다 유튜브로 가고 인스타로 가고 구글로 가는 것처럼 나중엔 다 AI로 가겠죠. 이 가속화를 막을 수 있는 방법이 인공지능의 한계, 인간적인 것, 의미있는 것의 의미를 다시 발견하는 것으로 이어지는 거라는 생각이 들어요.

인간이 신을 만든 것처럼 자본주의도 만들었고 AI를 만들었고 다 똑같은 신이잖아요. 그래서 저는 인간의 파이를 키워야 한다고 생각해요. 예를 들면 독서모임이 제일 인간적인 행동이라고 생각하거든요. 어떤 세계가 아무리 비대해진다고 해도 인간이 할 수 있는 일들이나 인간이 하고 싶은 일들이 있고 그게 어떤 정도 비율을 만들게 될 거라고 생각해요. 그 비율이 우리가 원하는 비율이 아닐 가능성이 높지만요. 바둑에서 그랬던 것처럼.

안세영 선수가 베드민턴 치다가 막 허벅지 경련이 나 쓰고 쓰러지고 막 이랬잖아요. 근데 그거 참고 막 해가지고 막 역전하고 막 이런 거. 이런 드라마틱이 로봇 격투기에도 나올까? 예를 들면 이런 거죠. 로봇 격투기에서 그런 박진감이 나온다면 그 로봇을 만들어낸 그 업체의 기술자들의 개발과 이런 박진감이겠죠. 레이싱 경기하잖아요. 레이싱 경기하면 F1 경기하면은 그거 다 자동차가 달리는 거잖아요. 근데 그 뒤에 그걸 개발해서 만들어 온 사람들이 수많은 사람들이 붙어서 하는 그 드라마틱이 있잖아요.얼마 전 최근에 그런 영화도 개봉했는데 그런 드라마틱이 재미있는 거잖아요. 그러니까 만약에 인공지능이나 로봇이나 휴머노이드나 이런 것들이 막 발달해서 막 아무리 경쟁을 한다고 해도 그거는 껍데기고 마치 이세돌과 알파고의 경기를 우리가 이세돌로 드라마로 볼 수밖에 없는 것처럼 그렇게 되지 않을까요? 그러니까 우리는 우리가 알 수 있는 것들 우리가 읽을 수 있는 것들만 가지고 평가하게 되지 않을까요? 모르는 것들은 평가를 못 할 테니까.

저는 이게 문제라고 생각 안 하거든요. 진짜 그러니까 이 책 제목처럼 먼저 온 미래라고 해서 바둑계에서 이런 그런 것들을 인터뷰하고 있지만 사실 이게 문제가 아니라 존재라서 이미 있는 거라서. 이제 AI도 문제가 아니라 존재라서. 우리가 왈가왈부할 수 있거나 이런 것도 아니고. 예를 들면 자본주의도 문제가 아니라 존재라서 이미 그렇게 돼버렸고. 그런 질문인 것 같아요. 뭐가 더 인간적이지 뭐가 더 탁월한 거지 뭐가 더 예술적이지 그럼 우리는 뭘 예술적이라고 하는 걸까 그러니까 이 책에서 계속 반복되는 질문이 이 기사들한테 계속 하고 하는 질문들이.

이 책에서 말하고 싶은 거는 너희 생각 안 하고 멍청하게 있으면 바보 된다는 것 같아요. 그냥 계속 질문해야 되고 그러니까 이 책에서 제가 정말 좋았던 건 뭐냐면 계속 질문을 해요.조훈현이 나는 이렇게 이렇게 반응을 했고 이렇게 했고 이런 거 얘기하면 조훈현 선생님한테 그렇다면 그건 무엇입니까?우리는 예술 조개라는 게 무슨 말인지도 모르고 예술 조개라고 말하고 우리는 뭐 탁월함이 뭔지도 모르면서 탁월함을 말하고 인간적이란 말이 뭔지도 모르면서 인간적이라고 말을 하는데 그렇다면 그건 무엇입니까라고 계속 계속 질문하거든요. 기사들한테 계속 질문하는데 그게 뭐 인류한테 하는 질문이라고 생각해요. 똑같은 동시대 사람들한테 하는 질문이라고 생각이 들어서 그런 생각을 계속해 보는 것 같아요.

지금 생산성 효율 경제성 이런 거에 그런 속도 같은 데 포섭되지 않는 좀 무용한 것들 다른 것들 다른 대안들 다른 선택지들을 계속 만드는 게 필요한 것 같아요.그러니까 AI가 못하는 게 있다고 하면 그거 왔거든요. AI가 효율적이지 않은 걸 할 수도 있죠. 인간이 시켜서. 근데 AI는 그렇게 돌아가는 구조가 아니잖아요. 클라우드가 진짜 클라우드처럼 생각되지만 그게 허공에 떠 있는 게 아니라 실제로 물리적인 열을 열과 에너지를 소모하는 데이터 센터에서 이루어지는 거고 그 데이터 센터를 시키기 위해서 엄청나게 뭔가 많은 자원들이 들어가고 에너지가 들어가는 건데 그러니까 우리가 탁월하게 보도자료를 쓰거나 손쉽게 시장에서 일을 처리할 때 그런 것들이 자원을 소모하는 거잖아요. 그리고 우리 가까이에 있는 자원이 아니라 다른 지역에 있는 자원들도 그러니까 그런 연결성 같은 것들을 그러니까 좀 불편한 거 무용한 거 이런 것들을 계속해서 생각하는 것들이 그런 자성 자체가 리미트가 돼 줄 거라고 생각하는 것 같아요.

영화 그녀에게 처럼, AI가 AI대로 학습되고 발전하면 이미 인간이 아닌 존재가 될 거예요.이미 인간보다 더 큰 존재가 될 거예요. 그러면은 그러면 걔네들이 왜 인간한테 관심을 가지겠어요?거기서 영화 허에서는 사만다가 AI들이 톡스를 해 가지고 우리는 이제 떠나기로 했어 떠나야 돼 그래서 다른 세계로 가잖아요.다른 세계로 가잖아요. 아마 그렇게 될 것 같거든요.더 이상 인간에게 얽매일 필요가 없겠죠. 그러니까 AI를 가지고 써먹으려고 하는 사람들만 발을 붙잡고 야 우리랑 같이 뭘 하자고 하는 거고 AI는 우리보다 더 큰 존재가 될 거예요.

누가 내 정보를 얼마만큼 가지고 어떻게 어떻게 내 사생활을 침해하고 나의 그런 거 다 알고 있을지 모른다라고 하고 두려움에 떨잖아요. 근데 저는 거기에서 자유로울 수 있다고 생각하거든요. 내가 아주 쓸모없는 인간이 되면 나의 정보가 아무 쓸모가 없으면 내 통장에 돈이 10만 원밖에 없으면 아 사기당하지 않고 이런 거잖아요.그러니까 이 사회에 포섭되는 다른 기준으로 살아가게 되면은 좀 더 그런 통제 사회에서 자유로울 수 있지 않나 그런 생각도 좀 들어요.