[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

모임은 어떤 형식으로 진행이 되고 어떻게 모이나요? 일정을 맞추지 못한 경우는 어떻게 되나요? 모임 신청 전에 문의를 해봅니다...

안녕하세요 @퍼니 님. 그믐 사이트에서 29일 일정 동안 온라인으로 진행합니다. 따로 카톡방이나 화상, 오프라인 미팅은 없고 그믐 내에서 책을 읽고 각자 자유롭게 참여하는 방식이에요. 책을 읽고 관심 있거나 인상 깊었던 문장이나 문구를 적어주시고, 자신의 생각을 올리거나 궁금한 부분을 올리셔도 되고요. 책과 관련된 다른 소재나 시사, 정보를 같이 얘기해도 됩니다. 의무는 아니므로 그냥 참여해서 책만 읽으셔도 괜찮고요. 부담없이 자유롭게 참여하는 것이 목적입니다. 안내에 쓴 분량 일정은 29일에 걸쳐 제가 임의로 나눈 것일 뿐, 각자 개인 일정이 제각각이므로 퍼니 님의 속도대로 읽으셔도 되세요. 다만 저 같은 경우는 모임지기이기 때문에 가능하면 일정에 맞추어 진도를 나가면서 중간중간 그믐에 댓글을 남길 예정입니다.

다들 책 준비는 잘 하고 계신가요? 저는 동네 도서관에는 책이 한 권밖에 없어서 우선 다른 지역 도서관으로 상호대차 신청을 했습니다. 모임의 공식적인 시작은 함께읽기 일정에 적은 것처럼 11/26일에 시작할 예정이에요. 저도 아직 AI분야의 책을 많이 읽지는 않았지만 그래도 인공지능과 노동의 관계에 대한 추천 도서로 두 책을 추천하려고 합니다. <기계의 반칙>은 인공지능의 정의와 현황, 문제점 등을 일반인도 알기 쉽도록 정리한 책인데 복잡한 기술적 설명보다는 AI의 발전과정과 영향력을 위주로 탐구하고 있습니다. 특히 책의 앞 장에서 나오는 지능에 대한 설명과 정의가 인상적이에요. 저자는 우리가 인공지능의 '지능'이란 말을 이해할 때 인간 두뇌와 사고활동의 개념을 근거로 이해하지만 사실 AI의 지능은 인간과 닮지 않았으며 지능의 범위와 정의가 매우 폭넓다고 지적합니다. 예를 들어 달팽이나 개미는 인간과 같은 사유를 하지는 못하죠. 하지만 이들에게 지능이 없다고 할 수 있을까요? 작가는 현재의 상황을 파악하여 원하는 대로 행동하고 문제를 해결할 수 있게끔 하는 능력이 지능이라고 정의합니다. 그렇다면 인간만이 아니라 동물 더 나아가 곤충 같은 미물만이 아니라 소프트웨어 같은 인공적인 존재에서도 지능을 찾을 수 있다고 말합니다. 인공지능은 인간과 같은 문제해결력이나 문맥 파악, 결론도출의 인간적 특성을 목표로 하지만 그 결과물을 도출하는 중간과정은 인간적이지 않은 것이 핵심입니다. 그렇기에 오히려 인공지능의 '지능'을 인간 중심으로 이해하기 보다는 차라리 개미의 군체나 달팽이와 비교하는 것이 나을 수 있다고 말해요. 인공지능이 얼마나 우리와 다른 비인간적인 개념인지를 설명한다는 점에서 신선하게 읽혔습니다.

두 번째 책은 <일은 당신을 사랑하지 않는다> 입니다. 사실 이쪽은 인공지능이나 기술과는 전혀 상관없는 책인데요. 현대사회의 직업과 노동시장이 어떻게 우리를 일에 무관심하다 못해 일을 싫어하거나, 일로 인해 지치고 불안해지는가를 역사/경제/가정 등 다양한 관점에서 분석하고 있습니다. 이번 모임 책은 AI 자체보다는 AI에 가려진 노동산업의 그림자, 특히 인공지능이 역으로 인간 세상의 일자리를 어떻게 재편하고 있으며 그로 인해 근로자들이 어떤 구조적 불이익이나 위험에 노출되어야 하는지를 다루고 있습니다. 인공지능 세상이 도래하기 이전에도 노동시장과 일자리에서 개인이 겪는 심리적/정신적 불안정이나 불만, 결핍은 존재했죠. 인공지능이 그것들을 보완할 수 있을지, 아니면 오히려 그 체제에 마찬가지로 편승할 지를 이해하려면 결국 우리의 직업과 노동의 실태를 돌아볼 필요가 있다고 생각해요. 왜 많은 사람들이 자신의 일에 만족하지 못하며, 일에서 즐거움을 찾지 못하고, 번아웃이 오거나 감정노동으로 인해 지칠까요? 작가는 그 고민과 괴로움의 근원을 더 이상 자신에게서 찾지 말라고 조언합니다. 일과 회사는 감정과 생명이 없는 무정물이기에 우리의 감정과 사고와 여건에 고려하지 않죠. 따라서 우리가 아무리 일에 열정과 사랑을 바치더라도 일은 우리에게 감정을 내어주지 않습니다. 일방적인 감정과 헌신의 강요 구도로 인해 우리가 일에서 만족을 찾을 수 없다는 거죠. <AI는 인간을 먹고 자란다>는 이런 노동관계와 구조를 '인공지능을 선두하는 빅테크 기업들'로 좀 더 범위를 좁혀서 보고 있기에 참고 서적으로 읽어보시면 좋을 것 같습니다.

다들 책 준비는 잘 하고 계신가요? 저는 개인 일정으로 바쁜 주가 있어서 책을 미리 신청하여 앞 부분을 미리 읽어봤습니다. AI산업에 종사하는 각양각색의 노동계층과 그들의 근무환경을 세밀하게 묘사하면서도 기술적 설명이 어렵지 않아 쉽고 재밌게 읽히네요. 그믐 모임 일정은 공지에 적은 것처럼 26일에 공식적으로 시작하겠습니다. 각자의 일정으로 인해 책 준비가 늦어지거나 읽는 속도가 느려도 괜찮으니 부담 없이 읽으시면 됩니다.

안녕하세요, 같이 읽자고 제안해주시는 책들이 흥미로워 보여서 참여합니다. 좋은 책 소개해 주셔서 감사합니다 :)

AI가 가져올 사회 변화에 관심을 갖고 있던 차에 추천하신 책이 눈에 확 들어와 신청합니다.

안녕하세요- AI와 관련해서 기대와 두려움이 함께 하는듯합니다. 그래도 몇몇 전문가들의 경고에도 기대와 긍정적인 전망이 더 우세한듯 느껴지고요. 균형감있는 견해가 담긴 책이 궁금했는데, 이 책이 AI문외한에겐 좋은 출발점이 되지 않을까 싶어 참여합니다.

안녕하세요 @ICE9 님. 개인적으로 이번 책이 눈에 들어온 이유는 AI에 대한 기대와 우려, 다양한 의견과 담론 모두 현재 기업체 중심의 개발이라는 방향성 안에서만 이루어지고 있음을 지적하고 있어서 관심이 갔어요. 우리 사회를 구성하는 주체들은 기업만이 아니라 국가, 지역사회, 공동체, 비영리단체, 개인 등 다양함에도 불구하고 AI가 한 쪽의 입장에서만 조명받고 있다는 점에서 우리가 간과하고 놓치는 부분들도 많을 겁니다. 이번 책을 통해 AI의 영향과 시선을 다른 관점에서도 생각해보는 자세를 갖게 되는 게 가장 큰 교훈이 되지 않을까 싶네요.

안녕하세요 @Gabriel 님. @SooHey 님. 참여해주셔서 감사합니다. 😄 추천도서는 나중에 시간이 되실 때 참고용으로 보시면 이해에 더 도움이 될 것 같습니다. <일은 당신을 사랑하지 않는다>는 번역이 조금 직역의 느낌이 있어서 약간 거슬릴 수도 있지만 직업을 둘러싼 현대사회의 담론을 비판적으로 접근하기 때문에 꼭 AI가 아니더라도 한 번쯤 읽어보면 좋을 내용이라고 생각해요.

책 23p에 나오는 메커니컬 터크, 또는 터키인 기계는 1770년 헝가리 출신 공학자 겸 발명가였던 볼프강 켐플렌에 의해 만들어졌습니다. 이후 1854년까지 유럽과 미국 각지를 돌며 체스를 자동으로 둘 수 있는 기계로 사람들에게 공연과 쇼를 선보였다고 해요. 목제 상자 여기저기 서랍과 여닫이 문이 달려 있었고 사람과 같은 크기의 터키인 인형이 붙어서 한 손으로 체스 말을 옮기며 게임을 했다고 합니다. (첫 번째 사진) 쇼를 시작할 때는 항상 시연자가 동행했습니다. 기계가 사기극이 아닌지 의심하는 사람들이 많다 보니 시연자는 게임 시작 전이나 중간에 상자의 문들을 여기 저기 열어 안에 사람이 없다고 강조했다고 해요. 안에는 배관과 태엽 장치만 보이는 구조였고요. 하지만 이 장치는 사실 사기극으로 안에 사람이 들어가 말판을 확인하며 체스를 두는 식이었습니다. 우선 기계장치의 내부는 실제 깊이의 1/3까지만 볼 수 있었고 안에는 더 공간이 있었습니다. 공간 안에 숨어있는 사람은 시연자와 이미 상호 합의된 순서에 따라 밖에서 문을 열 때 자신의 몸을 가릴 별도의 문을 안에서 닫아 보이지 않게 숨길 수 있었다고 해요. (두 번째 사진) 체스판이 접한 상자의 안쪽 면에는 가로세로 격자 형태로 줄을 매달아 체스 칸 배열에 맞게 자석을 실에 고정시켰습니다. 체스 장기말의 바닥 면에도 자석이 붙어있어 체스 말이 이동하면 어디에 말이 놓였고 어디로 움직이는지를 안의 사람이 자석의 움직임을 통해 알 수 있었고요. 터키인 인형의 왼팔은 줄과 레버로 상자 안 쪽까지 연결되어 있어 상자 안의 사람이 체스 칸의 격자에 맞춰 팔을 이동하고 손을 쥐었다 폈다 하는 조작이 가능했습니다. 터키인 인형의 팔이 움직임에 맞춰 일부러 태엽이 돌아가는 소리를 냈기 때문에 관객들은 감쪽같이 속아 넘어가죠. (세 번째 사진) 이후 쇼의 인기가 사그라들며 터키인 기계는 처박혀 있다가 1854년에 화재로 창고와 함께 기계도 파괴되며 역사에서 사라집니다. 그리고 1857년에 기계를 소유했던 소유주의 아들 '실라스 미첼'이 더 이상 사업상 기밀을 간직할 이유가 없다고 판단해 당시의 체스 잡지에 기계의 작동원리를 설명하는 기사를 실으면서 터키인 기계의 비밀도 세상에 밝혀집니다. https://en.wikipedia.org/wiki/Mechanical_Turk

터키인 기계가 한창 유행하던 당시에도 의심하는 의견이 없었던 건 아닙니다. 한 번은 1827년 볼티모어에서 쇼를 진행하는데 당시 공연장의 온도가 너무 높아 기계 안에 숨어있던 사람이 참지 못하고 몰래 도망을 나오는 일이 벌어져요. 당시 공연장 근처 건물의 지붕에서 쇼를 훔쳐보고 있던 소년 2명이 이 광경을 목격했고 소문이 퍼지기도 했습니다. 하지만 당시 터키인 기계의 명성 그리고 '정직함'에 사람들은 관심이 팔려있어 오히려 거짓 소문으로 여겨져 묻힙니다.

https://youtube.com/shorts/1MAAu6JBa18?si=GD69eoUXgY39gT8o 작동법을 CG로 설명한 쇼츠도 있습니다.

터키인 기계는 '겉으로는 기계의 정직성과 투명성의 환상을 바탕으로 하지만 뒤에 인간의 개입이 숨어있는 문제'의 대표적인 사례입니다. 터키인 기계가 불에 타 없어지면서 이런 환상에 바탕을 둔 사기극은 사라진 것 같지만 생성형AI가 대두 되면서 이제는 AI를 통한 사기범죄의 우려의 목소리도 나오고 있죠. 최근 영국에서는 터키인 기계보다 규모와 교묘함에 있어서 훨씬 거대한 사기가 벌어지기도 했습니다. Builder.AI라는 스타트업은 고객이 원하는 사양의 어플리케이션을 AI에게 입력하면 자동으로 앱을 만들어주는 시스템을 홍보했습니다. 본사에만 500여 명의 직원에 15억 달러의 기업가치를 평가 받을 정도로 관심을 모았지만 이들이 내세운 AI의 성능은 실제로는 인도와 우크라이나에 있는 개발 직원 및 외부개발자를 아웃소싱하여 결과물을 만드는 방식이었다고 해요. 고객이 '나타샤'라는 챗봇에 원하는 사양이나 지시사항을 입력하는 인터페이스 형태였는데, '일부' 기본적인 작업은 챗봇이 수행하긴 했지만 그 외 많은 영역은 사람이 개입했다고 합니다. Builder.AI가 의심받기 시작한 건 서비스를 사용해 본 고객들이 기대한 제작 기간에 비해 결과물이 나오는 속도가 너무 느렸고 이런 사례가 반복되자 의문이 제기되었고요. 점차 결과물에 불만족한 고객들이 대금 지급을 거부하거나 계약을 취소하면서 Builder.AI의 현금창출 능력이 고갈 되었고, 인도의 다른 업체와 실제로 물건이나 서비스가 오고 가지 않는 허위거래를 만들어 매출을 부풀리다가 내부자 고발로 인해 실태가 드러나면서 파산하게 됩니다. 결국 Builder.AI가 홍보한 나타샤와 AI는 단지 어마어마하게 많은 인도인(A lot of Indian)을 투입한 훨씬 거대한 터키인 기계였던 셈이죠. https://www.digitaltoday.co.kr/news/articleView.html?idxno=588857 https://www.autodaily.co.kr/news/articleView.html?idxno=531829 https://restofworld.org/2025/builderai-ai-apps-downfall/