[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

안녕하세요, 모임지기 은화입니다. 모임의 일정 시작 이전에 간단하게 책이나 주제에 대해 수다를 나누면 좋을 듯 하여 글을 올립니다. 여러분들은 인공지능이 과연 이번만큼은 그동안의 수많은 기술 혁명과 달리 인간을 노동으로부터 자유롭게 할 수 있다고 생각하시나요? 저는 개인적인 관심사로 흑인문화와 역사, 노예제도에 대해 책을 읽고 있습니다. 노예제 하면 역시나 아메리카 대륙 특히 미국의 광활한 남부 주에서 담배와 목화를 비롯한 상품성 작물을 대량으로 재배한 농장들과 거기서 일하는 흑인노예들의 풍경이 제일 먼저 떠오르더라고요. 1793년, 조면기(Cotton gin)가 발명되기 전까지는 목화를 수확한 뒤 씨앗과 솜을 분리하는 작업을 사람의 손으로 일일히 발라내야 했습니다. 문제는 목화의 씨앗 부분이 끈적하여 쉽지 않은 작업이었다고 해요. 시간과 노동력을 절약하기 위해 조면기가 발명되면서 목화산업은 전환점을 맞이합니다. 1790년 8천 베일(짚, 양모와 같은 것들을 단단히 다져 묶은 더미 단위로 보통 1베일이 400파운드 약 181kg이었습니다.) 이던 미국의 목화 생산량은 1820년 65만 베일, 1850년 250만 베일, 1860년 400만 베일로 급증하게 됩니다. 사람이 돌리건, 또는 증기기관의 힘을 빌려 작동하건 조면기를 통해 목화를 더 수월하게 분리해낼 수 있게 되었으니 노예들의 노동과 고통이 줄어들었을까요? 우리는 이미 역사에서 그렇지 않았다는 걸 알고 있습니다. 조면기가 더 빠르게, 더 많이 목화솜을 생산해냄으로 인해 훨씬 더 많은 공급이 필요하게 됩니다. 농장주들은 토지를 사들여 농장을 확장하고, 늘어난 토지의 구획에 필요한 흑인노예들을 더 사들이면서 노예의 숫자도 노예제도의 규모도 확대되었죠. 어마어마하게 쏟아지는 목화솜은 유럽으로 수출되면서 침구류와 의복 등 각종 섬유산업을 활성화시켰고 일반 대중도 솜과 무명천 옷을 입을 수 있는 기회가 늘어나게 됩니다. 자연스레 옷에 대한 수요가 일반 사회계층에까지 퍼지면서 수요의 증가가 다시 공급을 끌어올리는 순환구도가 만들어집니다. 조면기의 발명은 섬유산업과 대규모 농장의 경제적 성장을 이끌었지만, 그 산업에 필요한 누군가의 노동력을 충당하기 위해 아프리카의 흑인들이 가족과 고향으로부터 강제로 끌려와야 했습니다. 조면기는 단지 목화솜을 분리해내는 '작업'을 대체하고 효율화했을 뿐, 목화를 심고 수확하고 운반하는 기존의 나머지 작업을 전부 대체하지는 못했기에 일어난 현상입니다. AI는 '직업'을 한 번에 대체하지 못합니다. 조금씩 조금씩 우리의 직무나 직업을 구성하는 수많은 자잘한 업무부터 중요한 업무까지 각 업무를 구성하는 세부단계를 하나둘 대체하는 방식입니다. 직업이 아닌 '작업'을 야금야금 AI가 대신하다 보면 어느 순간 테세우스의 배처럼 우리의 일은 서서히 AI가 잠식할 것이라는 예측입니다. 하지만 그 잠식의 과정의 과도기까지 여전히 인간의 정신과 육체의 노동과 집중이 필요하다면, 그 과도기에는 흑인노예들과 같은 일이 벌어지지 않을 수 있을까요? 섬유와 의복산업의 성장에 가려진 노예제도의 그림자처럼, AI의 대체가 끝나가는 미래에 무엇이 그림자 너머에서 가려지게 될까요?

모임은 어떤 형식으로 진행이 되고 어떻게 모이나요? 일정을 맞추지 못한 경우는 어떻게 되나요? 모임 신청 전에 문의를 해봅니다...

안녕하세요 @퍼니 님. 그믐 사이트에서 29일 일정 동안 온라인으로 진행합니다. 따로 카톡방이나 화상, 오프라인 미팅은 없고 그믐 내에서 책을 읽고 각자 자유롭게 참여하는 방식이에요. 책을 읽고 관심 있거나 인상 깊었던 문장이나 문구를 적어주시고, 자신의 생각을 올리거나 궁금한 부분을 올리셔도 되고요. 책과 관련된 다른 소재나 시사, 정보를 같이 얘기해도 됩니다. 의무는 아니므로 그냥 참여해서 책만 읽으셔도 괜찮고요. 부담없이 자유롭게 참여하는 것이 목적입니다. 안내에 쓴 분량 일정은 29일에 걸쳐 제가 임의로 나눈 것일 뿐, 각자 개인 일정이 제각각이므로 퍼니 님의 속도대로 읽으셔도 되세요. 다만 저 같은 경우는 모임지기이기 때문에 가능하면 일정에 맞추어 진도를 나가면서 중간중간 그믐에 댓글을 남길 예정입니다.

다들 책 준비는 잘 하고 계신가요? 저는 동네 도서관에는 책이 한 권밖에 없어서 우선 다른 지역 도서관으로 상호대차 신청을 했습니다. 모임의 공식적인 시작은 함께읽기 일정에 적은 것처럼 11/26일에 시작할 예정이에요. 저도 아직 AI분야의 책을 많이 읽지는 않았지만 그래도 인공지능과 노동의 관계에 대한 추천 도서로 두 책을 추천하려고 합니다. <기계의 반칙>은 인공지능의 정의와 현황, 문제점 등을 일반인도 알기 쉽도록 정리한 책인데 복잡한 기술적 설명보다는 AI의 발전과정과 영향력을 위주로 탐구하고 있습니다. 특히 책의 앞 장에서 나오는 지능에 대한 설명과 정의가 인상적이에요. 저자는 우리가 인공지능의 '지능'이란 말을 이해할 때 인간 두뇌와 사고활동의 개념을 근거로 이해하지만 사실 AI의 지능은 인간과 닮지 않았으며 지능의 범위와 정의가 매우 폭넓다고 지적합니다. 예를 들어 달팽이나 개미는 인간과 같은 사유를 하지는 못하죠. 하지만 이들에게 지능이 없다고 할 수 있을까요? 작가는 현재의 상황을 파악하여 원하는 대로 행동하고 문제를 해결할 수 있게끔 하는 능력이 지능이라고 정의합니다. 그렇다면 인간만이 아니라 동물 더 나아가 곤충 같은 미물만이 아니라 소프트웨어 같은 인공적인 존재에서도 지능을 찾을 수 있다고 말합니다. 인공지능은 인간과 같은 문제해결력이나 문맥 파악, 결론도출의 인간적 특성을 목표로 하지만 그 결과물을 도출하는 중간과정은 인간적이지 않은 것이 핵심입니다. 그렇기에 오히려 인공지능의 '지능'을 인간 중심으로 이해하기 보다는 차라리 개미의 군체나 달팽이와 비교하는 것이 나을 수 있다고 말해요. 인공지능이 얼마나 우리와 다른 비인간적인 개념인지를 설명한다는 점에서 신선하게 읽혔습니다.

두 번째 책은 <일은 당신을 사랑하지 않는다> 입니다. 사실 이쪽은 인공지능이나 기술과는 전혀 상관없는 책인데요. 현대사회의 직업과 노동시장이 어떻게 우리를 일에 무관심하다 못해 일을 싫어하거나, 일로 인해 지치고 불안해지는가를 역사/경제/가정 등 다양한 관점에서 분석하고 있습니다. 이번 모임 책은 AI 자체보다는 AI에 가려진 노동산업의 그림자, 특히 인공지능이 역으로 인간 세상의 일자리를 어떻게 재편하고 있으며 그로 인해 근로자들이 어떤 구조적 불이익이나 위험에 노출되어야 하는지를 다루고 있습니다. 인공지능 세상이 도래하기 이전에도 노동시장과 일자리에서 개인이 겪는 심리적/정신적 불안정이나 불만, 결핍은 존재했죠. 인공지능이 그것들을 보완할 수 있을지, 아니면 오히려 그 체제에 마찬가지로 편승할 지를 이해하려면 결국 우리의 직업과 노동의 실태를 돌아볼 필요가 있다고 생각해요. 왜 많은 사람들이 자신의 일에 만족하지 못하며, 일에서 즐거움을 찾지 못하고, 번아웃이 오거나 감정노동으로 인해 지칠까요? 작가는 그 고민과 괴로움의 근원을 더 이상 자신에게서 찾지 말라고 조언합니다. 일과 회사는 감정과 생명이 없는 무정물이기에 우리의 감정과 사고와 여건에 고려하지 않죠. 따라서 우리가 아무리 일에 열정과 사랑을 바치더라도 일은 우리에게 감정을 내어주지 않습니다. 일방적인 감정과 헌신의 강요 구도로 인해 우리가 일에서 만족을 찾을 수 없다는 거죠. <AI는 인간을 먹고 자란다>는 이런 노동관계와 구조를 '인공지능을 선두하는 빅테크 기업들'로 좀 더 범위를 좁혀서 보고 있기에 참고 서적으로 읽어보시면 좋을 것 같습니다.

다들 책 준비는 잘 하고 계신가요? 저는 개인 일정으로 바쁜 주가 있어서 책을 미리 신청하여 앞 부분을 미리 읽어봤습니다. AI산업에 종사하는 각양각색의 노동계층과 그들의 근무환경을 세밀하게 묘사하면서도 기술적 설명이 어렵지 않아 쉽고 재밌게 읽히네요. 그믐 모임 일정은 공지에 적은 것처럼 26일에 공식적으로 시작하겠습니다. 각자의 일정으로 인해 책 준비가 늦어지거나 읽는 속도가 느려도 괜찮으니 부담 없이 읽으시면 됩니다.

안녕하세요, 같이 읽자고 제안해주시는 책들이 흥미로워 보여서 참여합니다. 좋은 책 소개해 주셔서 감사합니다 :)

AI가 가져올 사회 변화에 관심을 갖고 있던 차에 추천하신 책이 눈에 확 들어와 신청합니다.

안녕하세요- AI와 관련해서 기대와 두려움이 함께 하는듯합니다. 그래도 몇몇 전문가들의 경고에도 기대와 긍정적인 전망이 더 우세한듯 느껴지고요. 균형감있는 견해가 담긴 책이 궁금했는데, 이 책이 AI문외한에겐 좋은 출발점이 되지 않을까 싶어 참여합니다.

안녕하세요 @ICE9 님. 개인적으로 이번 책이 눈에 들어온 이유는 AI에 대한 기대와 우려, 다양한 의견과 담론 모두 현재 기업체 중심의 개발이라는 방향성 안에서만 이루어지고 있음을 지적하고 있어서 관심이 갔어요. 우리 사회를 구성하는 주체들은 기업만이 아니라 국가, 지역사회, 공동체, 비영리단체, 개인 등 다양함에도 불구하고 AI가 한 쪽의 입장에서만 조명받고 있다는 점에서 우리가 간과하고 놓치는 부분들도 많을 겁니다. 이번 책을 통해 AI의 영향과 시선을 다른 관점에서도 생각해보는 자세를 갖게 되는 게 가장 큰 교훈이 되지 않을까 싶네요.

안녕하세요 @Gabriel 님. @SooHey 님. 참여해주셔서 감사합니다. 😄 추천도서는 나중에 시간이 되실 때 참고용으로 보시면 이해에 더 도움이 될 것 같습니다. <일은 당신을 사랑하지 않는다>는 번역이 조금 직역의 느낌이 있어서 약간 거슬릴 수도 있지만 직업을 둘러싼 현대사회의 담론을 비판적으로 접근하기 때문에 꼭 AI가 아니더라도 한 번쯤 읽어보면 좋을 내용이라고 생각해요.

책 23p에 나오는 메커니컬 터크, 또는 터키인 기계는 1770년 헝가리 출신 공학자 겸 발명가였던 볼프강 켐플렌에 의해 만들어졌습니다. 이후 1854년까지 유럽과 미국 각지를 돌며 체스를 자동으로 둘 수 있는 기계로 사람들에게 공연과 쇼를 선보였다고 해요. 목제 상자 여기저기 서랍과 여닫이 문이 달려 있었고 사람과 같은 크기의 터키인 인형이 붙어서 한 손으로 체스 말을 옮기며 게임을 했다고 합니다. (첫 번째 사진) 쇼를 시작할 때는 항상 시연자가 동행했습니다. 기계가 사기극이 아닌지 의심하는 사람들이 많다 보니 시연자는 게임 시작 전이나 중간에 상자의 문들을 여기 저기 열어 안에 사람이 없다고 강조했다고 해요. 안에는 배관과 태엽 장치만 보이는 구조였고요. 하지만 이 장치는 사실 사기극으로 안에 사람이 들어가 말판을 확인하며 체스를 두는 식이었습니다. 우선 기계장치의 내부는 실제 깊이의 1/3까지만 볼 수 있었고 안에는 더 공간이 있었습니다. 공간 안에 숨어있는 사람은 시연자와 이미 상호 합의된 순서에 따라 밖에서 문을 열 때 자신의 몸을 가릴 별도의 문을 안에서 닫아 보이지 않게 숨길 수 있었다고 해요. (두 번째 사진) 체스판이 접한 상자의 안쪽 면에는 가로세로 격자 형태로 줄을 매달아 체스 칸 배열에 맞게 자석을 실에 고정시켰습니다. 체스 장기말의 바닥 면에도 자석이 붙어있어 체스 말이 이동하면 어디에 말이 놓였고 어디로 움직이는지를 안의 사람이 자석의 움직임을 통해 알 수 있었고요. 터키인 인형의 왼팔은 줄과 레버로 상자 안 쪽까지 연결되어 있어 상자 안의 사람이 체스 칸의 격자에 맞춰 팔을 이동하고 손을 쥐었다 폈다 하는 조작이 가능했습니다. 터키인 인형의 팔이 움직임에 맞춰 일부러 태엽이 돌아가는 소리를 냈기 때문에 관객들은 감쪽같이 속아 넘어가죠. (세 번째 사진) 이후 쇼의 인기가 사그라들며 터키인 기계는 처박혀 있다가 1854년에 화재로 창고와 함께 기계도 파괴되며 역사에서 사라집니다. 그리고 1857년에 기계를 소유했던 소유주의 아들 '실라스 미첼'이 더 이상 사업상 기밀을 간직할 이유가 없다고 판단해 당시의 체스 잡지에 기계의 작동원리를 설명하는 기사를 실으면서 터키인 기계의 비밀도 세상에 밝혀집니다. https://en.wikipedia.org/wiki/Mechanical_Turk

터키인 기계가 한창 유행하던 당시에도 의심하는 의견이 없었던 건 아닙니다. 한 번은 1827년 볼티모어에서 쇼를 진행하는데 당시 공연장의 온도가 너무 높아 기계 안에 숨어있던 사람이 참지 못하고 몰래 도망을 나오는 일이 벌어져요. 당시 공연장 근처 건물의 지붕에서 쇼를 훔쳐보고 있던 소년 2명이 이 광경을 목격했고 소문이 퍼지기도 했습니다. 하지만 당시 터키인 기계의 명성 그리고 '정직함'에 사람들은 관심이 팔려있어 오히려 거짓 소문으로 여겨져 묻힙니다.

https://youtube.com/shorts/1MAAu6JBa18?si=GD69eoUXgY39gT8o 작동법을 CG로 설명한 쇼츠도 있습니다.