[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

안녕하세요 @ICE9 님. 개인적으로 이번 책이 눈에 들어온 이유는 AI에 대한 기대와 우려, 다양한 의견과 담론 모두 현재 기업체 중심의 개발이라는 방향성 안에서만 이루어지고 있음을 지적하고 있어서 관심이 갔어요. 우리 사회를 구성하는 주체들은 기업만이 아니라 국가, 지역사회, 공동체, 비영리단체, 개인 등 다양함에도 불구하고 AI가 한 쪽의 입장에서만 조명받고 있다는 점에서 우리가 간과하고 놓치는 부분들도 많을 겁니다. 이번 책을 통해 AI의 영향과 시선을 다른 관점에서도 생각해보는 자세를 갖게 되는 게 가장 큰 교훈이 되지 않을까 싶네요.

안녕하세요 @Gabriel 님. @SooHey 님. 참여해주셔서 감사합니다. 😄 추천도서는 나중에 시간이 되실 때 참고용으로 보시면 이해에 더 도움이 될 것 같습니다. <일은 당신을 사랑하지 않는다>는 번역이 조금 직역의 느낌이 있어서 약간 거슬릴 수도 있지만 직업을 둘러싼 현대사회의 담론을 비판적으로 접근하기 때문에 꼭 AI가 아니더라도 한 번쯤 읽어보면 좋을 내용이라고 생각해요.

책 23p에 나오는 메커니컬 터크, 또는 터키인 기계는 1770년 헝가리 출신 공학자 겸 발명가였던 볼프강 켐플렌에 의해 만들어졌습니다. 이후 1854년까지 유럽과 미국 각지를 돌며 체스를 자동으로 둘 수 있는 기계로 사람들에게 공연과 쇼를 선보였다고 해요. 목제 상자 여기저기 서랍과 여닫이 문이 달려 있었고 사람과 같은 크기의 터키인 인형이 붙어서 한 손으로 체스 말을 옮기며 게임을 했다고 합니다. (첫 번째 사진) 쇼를 시작할 때는 항상 시연자가 동행했습니다. 기계가 사기극이 아닌지 의심하는 사람들이 많다 보니 시연자는 게임 시작 전이나 중간에 상자의 문들을 여기 저기 열어 안에 사람이 없다고 강조했다고 해요. 안에는 배관과 태엽 장치만 보이는 구조였고요. 하지만 이 장치는 사실 사기극으로 안에 사람이 들어가 말판을 확인하며 체스를 두는 식이었습니다. 우선 기계장치의 내부는 실제 깊이의 1/3까지만 볼 수 있었고 안에는 더 공간이 있었습니다. 공간 안에 숨어있는 사람은 시연자와 이미 상호 합의된 순서에 따라 밖에서 문을 열 때 자신의 몸을 가릴 별도의 문을 안에서 닫아 보이지 않게 숨길 수 있었다고 해요. (두 번째 사진) 체스판이 접한 상자의 안쪽 면에는 가로세로 격자 형태로 줄을 매달아 체스 칸 배열에 맞게 자석을 실에 고정시켰습니다. 체스 장기말의 바닥 면에도 자석이 붙어있어 체스 말이 이동하면 어디에 말이 놓였고 어디로 움직이는지를 안의 사람이 자석의 움직임을 통해 알 수 있었고요. 터키인 인형의 왼팔은 줄과 레버로 상자 안 쪽까지 연결되어 있어 상자 안의 사람이 체스 칸의 격자에 맞춰 팔을 이동하고 손을 쥐었다 폈다 하는 조작이 가능했습니다. 터키인 인형의 팔이 움직임에 맞춰 일부러 태엽이 돌아가는 소리를 냈기 때문에 관객들은 감쪽같이 속아 넘어가죠. (세 번째 사진) 이후 쇼의 인기가 사그라들며 터키인 기계는 처박혀 있다가 1854년에 화재로 창고와 함께 기계도 파괴되며 역사에서 사라집니다. 그리고 1857년에 기계를 소유했던 소유주의 아들 '실라스 미첼'이 더 이상 사업상 기밀을 간직할 이유가 없다고 판단해 당시의 체스 잡지에 기계의 작동원리를 설명하는 기사를 실으면서 터키인 기계의 비밀도 세상에 밝혀집니다. https://en.wikipedia.org/wiki/Mechanical_Turk

터키인 기계가 한창 유행하던 당시에도 의심하는 의견이 없었던 건 아닙니다. 한 번은 1827년 볼티모어에서 쇼를 진행하는데 당시 공연장의 온도가 너무 높아 기계 안에 숨어있던 사람이 참지 못하고 몰래 도망을 나오는 일이 벌어져요. 당시 공연장 근처 건물의 지붕에서 쇼를 훔쳐보고 있던 소년 2명이 이 광경을 목격했고 소문이 퍼지기도 했습니다. 하지만 당시 터키인 기계의 명성 그리고 '정직함'에 사람들은 관심이 팔려있어 오히려 거짓 소문으로 여겨져 묻힙니다.

https://youtube.com/shorts/1MAAu6JBa18?si=GD69eoUXgY39gT8o 작동법을 CG로 설명한 쇼츠도 있습니다.

터키인 기계는 '겉으로는 기계의 정직성과 투명성의 환상을 바탕으로 하지만 뒤에 인간의 개입이 숨어있는 문제'의 대표적인 사례입니다. 터키인 기계가 불에 타 없어지면서 이런 환상에 바탕을 둔 사기극은 사라진 것 같지만 생성형AI가 대두 되면서 이제는 AI를 통한 사기범죄의 우려의 목소리도 나오고 있죠. 최근 영국에서는 터키인 기계보다 규모와 교묘함에 있어서 훨씬 거대한 사기가 벌어지기도 했습니다. Builder.AI라는 스타트업은 고객이 원하는 사양의 어플리케이션을 AI에게 입력하면 자동으로 앱을 만들어주는 시스템을 홍보했습니다. 본사에만 500여 명의 직원에 15억 달러의 기업가치를 평가 받을 정도로 관심을 모았지만 이들이 내세운 AI의 성능은 실제로는 인도와 우크라이나에 있는 개발 직원 및 외부개발자를 아웃소싱하여 결과물을 만드는 방식이었다고 해요. 고객이 '나타샤'라는 챗봇에 원하는 사양이나 지시사항을 입력하는 인터페이스 형태였는데, '일부' 기본적인 작업은 챗봇이 수행하긴 했지만 그 외 많은 영역은 사람이 개입했다고 합니다. Builder.AI가 의심받기 시작한 건 서비스를 사용해 본 고객들이 기대한 제작 기간에 비해 결과물이 나오는 속도가 너무 느렸고 이런 사례가 반복되자 의문이 제기되었고요. 점차 결과물에 불만족한 고객들이 대금 지급을 거부하거나 계약을 취소하면서 Builder.AI의 현금창출 능력이 고갈 되었고, 인도의 다른 업체와 실제로 물건이나 서비스가 오고 가지 않는 허위거래를 만들어 매출을 부풀리다가 내부자 고발로 인해 실태가 드러나면서 파산하게 됩니다. 결국 Builder.AI가 홍보한 나타샤와 AI는 단지 어마어마하게 많은 인도인(A lot of Indian)을 투입한 훨씬 거대한 터키인 기계였던 셈이죠. https://www.digitaltoday.co.kr/news/articleView.html?idxno=588857 https://www.autodaily.co.kr/news/articleView.html?idxno=531829 https://restofworld.org/2025/builderai-ai-apps-downfall/