[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

이 편리함 뒤에 누가 서 있을까요 유튜브에서 AI가 만든 노래를 들었습니다. 원곡 가수의 목소리와 구분할 수 없었습니다. 댓글 창을 내렸습니다. "이제 성우도 필요 없겠네." 저는 그 댓글을 보고 불편했습니다. 하지만 그 노래를 끝까지 들었습니다. 편리하다는 생각과 함께, 묘한 죄책감이 밀려왔습니다. 아일랜드의 성우 로라는 자신의 목소리를 학습한 AI와 경쟁합니다. 로라의 목소리는 이제 로라만의 것이 아닙니다. 누군가는 그 목소리를 더 싸게, 더 빠르게 쓸 수 있습니다. 로라는 자신의 목소리로 일자리를 잃습니다. 책 <AI는 인간을 먹고 자란다>는 이렇게 말합니다. 진짜 위험은 AI가 예술을 창조한다는 것이 아닙니다. 이 기술이 권력자에 의해 남용되어, 창작자를 착취하는 수단이 된다는 것입니다. 저는 오래 생각했습니다. 창의력도 AI가 복제합니다. 데이터 처리 능력은 인간이 따라갈 수 없습니다. 그렇다면 인간과 AI의 차이는 무엇일까요. 어쩌면 인간다움은 비합리적인 것에 있는지도 모릅니다. 누군가를 착취하려는 욕심도 인간다움입니다. 최소 비용으로 최대 이익을 얻으려는 것도. 새벽 배송을 주문하면서 '노동자가 힘들겠지'라고 생각하는 것도. 그러면서도 다시 버튼을 누르는 것도. AI는 프로그램대로 움직인다고 생각했습니다. 합리적이고 공정할 것이라고 상상했습니다. 하지만 그 뒤에는 여전히 인간의 노동이 있습니다. 플랫폼 노동자는 알고리즘에 통제받으며 일합니다. 성우는 자신의 목소리를 학습한 AI와 경쟁합니다. 고객은 새벽 배송을 받지 못할까 봐 걱정합니다. 누군가는 말했습니다. "사람의 일은 사람이 해결해야 합니다." 기술은 사람의 일을 개선할 수는 있어도, 해결하지는 못한다고. 기술 낙관론자들은 말합니다. 기술이 모든 것을 해결할 것이라고. AI가 인간을 자유롭게 만들 것이라고. 하지만 로라의 목소리를 훔쳐 쓰는 것은 AI가 아닙니다. 인간입니다. 새벽 배송 노동자를 알고리즘으로 통제하는 것도. 최소 비용으로 최대 이익을 얻으려는 것도. 그러면서 "기술이 발전했다"라고 말하는 것도. 문제는 기술이 아니었습니다. 기술을 어떻게 사용하느냐였습니다. 스스로에게 묻습니다. 정말 AI가 인간을 닮아가는 것일까요. 아니면 인간이 AI를 닮아가는 것일까요. 스마트폰 화면 속에서 AI가 만든 노래가 또 재생됩니다. 저는 손가락을 듭니다. 다음 곡을 누르기 전에, 잠깐 멈춥니다. 이 편리함 뒤에 누가 서 있을까요.

@RAMO 님의 마지막 부분 말이 좋네요. 우리가 AI를 닮아가고 있는 것은 아닌가 하는 물음. 인공지능만이 아니더라도 역사에서 인류를 이끌어 온 지배적 가치나 체제들은 우리가 과연 정말로 그렇게 살기를 원하여 만들어진 건지, 아니면 소수의 누군가가 그렇게 유도한 것인지 궁금할 때가 있습니다. 신분과 계급에 의한 차별이 그러했고, 인간을 가축과 같은 소유물로 본 노예제가 그랬으며, 생산수단에서는 혁명이 일어났지만 그 생산물을 산출하기 위한 노동력의 가치는 절하된 산업시대가 그러했습니다. 대항해시대와 식민주의 시기에는 특정 문화권이나 인종이 다른 집단을 지배하기 위한 정당성을 과학/기술에서 끌어와 명분으로 쓰곤 했죠. 과연 그것들이 정말로 우리 인류가 원하던 시대였을까 의문이 들곤 합니다. AI시대의 도래를 우리 스스로는 과연 얼마나 정말로 원하고 있을까요. 아니면 빅테크 기업들과 창업가/혁신가/투자자들이 원하는 것일까요. 많은 IT기업들과 리더들은 개인이 시대를 이끌어가는 운명이 온다고 강조하지만, 형태만 다를 뿐 결국 또 시대가 개인을 끌고 가는 운명이 반복되는 것은 아닌지 생각해 봤습니다.

이제야 책모임을 훑어봤네요. 무척 관심가는 책입니다. 저는 요즘 제미나이를 많이 사용하고 있는데, 한편으론 ai가 집단지성의 산물이기에 인간이 Ai와 경쟁하거나 밀려나거나 종속된다기 보다는 새로운 도구가 우리 손에 쥐여졌고, 특히 지식공유가 쉬워져 어떤 면에선 평등이 실현된 측면도 있다고 생각하고 있습니다. 그리고 이러한 집단지성은 인류가 역사를 통해 집적한 거대한 노동의 산물이기에, 그로 인한 이익이 있다면 모든이가 함께 누리는 것이 맞다는 생각도 합니다. 한편으로 아직 책을 구해보지 못했으나 ai라는 것이 마치 객관성과 가치중립성을 지닌 기계적 존재로 인식되는 게 하나의 함정일 수 있음을 방대한 사례를 통해 보여주고 있는듯하여 무척 관심이 갑니다. 뭣보다 it기업, 플랫폼기업의 독점 문제와 이로 인해 기하급수적으로 팽창할 전력소비량이 얼마나 환경문제나 노동자들이나 저개발 국가의 희생을 요구할지도 어두운 이면이라 할 수 있을것같고요 일단 피부로 느껴지는것은 한국과 같은 육체노동에 대한 차별적 인식이 고학력을 부추겨 대졸자가 전국민의 80%에 이르는 나라에서 그동안 젊은이들의 신규취업에서 노동다운 노동으로 인식되어왔던 지적노동이 빠르게 ai로 대체되고 있는 문제이고요. 제 생각에 대안은 노동시간을 줄여 혁신의 열매를 나누는 것과, 선망해왔던 지적노동보다 비용문제로 ai가 대체하기 어려운 서비스직이나 복합적인 육체노동에 대한 시각변화와 처우개선이 해법이 아닌가 싶습니다. 어쨌든 뒤늦게 좋은 책을 발견하여 늦게라도 구해서 읽어보고 동참할 수 있으면 좋겠네요

안녕하세요 @참미르 님! 참여해주셔서 감사합니다. 팀원들 중에 몇 명은 개인 사비로 사용 중인데 문헌/유사사례 검색이나 요약, 간략한 서식 작성 등에 주로 사용하더라고요. 다른 팀 중에서는 아예 회사 경비로 신청하여 좀 더 높은 버전을 쓰는 곳도 있고요. 저는 아직은 업무에서든 개인적으로든 생성형 AI를 쓰고 있지 않습니다. 다른 것보다도 생성형 AI가 제안하거나 내놓은 결과물을 제가 다시 검증해야 하거나 그것이 사실인지 확인하는 절차가 싫어서 안 쓰고 있어요. (게을러서 새로운 걸 안 배우는 것도 있긴 합니다 😅) 후배들이 만들어 온 자료나, 제가 해오라고 지시하거나 부탁한 업무 점검하는 것도 어떨 때는 귀찮은 데 'AI도 내가 봐야 하나?' 라는 생각이 들어서요.. 개인적으로 이번 책을 고른 이유는, AI 사용법이나 거기에 대한 적응 또는 미래예측과 트렌드를 주로 설명하는 책들이 서점을 지배하고 있는 상황에서 혼자 삐딱선(?)을 타는 것이 눈에 들어왔기 때문입니다. 남들이 다 하는 비슷한 말들 속에서 낭중지추처럼 존재감이 드러난다고 해야 할까요. 이런 종류의 책들을 좋아하기도 하고, 또 마침 주제가 AI라서 골라봤는데 전 만족스럽게 읽고 있습니다. 단지 노동시장만이 아니라 AI가 소모하고 있는 환경, 자본, 감정, 창의성에 이르기까지 AI와 빅테크 그리고 언론들이 주목하지 않거나 가리고 있는 뒷모습을 다각도로 볼 수 있는 점도 마음에 들고요. AI에 대해서는 낙관론과 비관론이 모두 공존하고 있지만, 미래학자들은 '어정쩡하게 AI가 대체하는 미래'가 올 거라는 예측들이 있습니다. 완전 대체의 시대가 아닌, 기존 직업들이 가진 업무의 상당 부분과 %가 조각난 퍼즐이나 헤진 옷처럼 여기저기 부분부분 AI가 대체하고 있는 미래 말이죠. 사실 AI 시대가 오더라도 많은 중소기업이나 자금력이 부족한 회사들은 AI 활용이나 대체를 적용하기 어려울 겁니다. 예를 들어 산업현장에서도 보면 아직까지도 이런 설비나 소프트웨어가 굴러가나 싶을 정도로 오래된 장비들을 사용 중인 곳들이 있죠. 하지만 그럼에도 전체로서의 기능은 여전히 작동합니다. AI 시대 이전에 우리가 살고 있는 인터넷과 디지털 시대가 세상의 풍경을 바꾸었어도, 아직 디지털화가 완전히 세상 모든 곳에 균질하게 퍼지지 않은 것처럼 결국에는 기업들의 가치판단 기준인 '수익성'에 따라 어디까지만 대체할지를 부분적으로 선택할 것 같습니다. 문제는 개개인들에게는 그런 '어정쩡한 미래'가 가장 대비하기 어렵고 모호하다는 점이겠죠. https://www.g-enews.com/article/Global-Biz/2025/10/20251011164919257fbbec65dfb_1

“오늘날의 AI 산업은 식민주의적 착취 구조의 최신 버전일 뿐이며, 이 시스템은 노동자들이 구조 자체를 바꿀 수 없도록 철저히 설계되어 있다.” - 본문 중에서

기계가 인간을 닮아가기 위한 과정 속에서 창의성과 예술을 탐구해가는 과정을 다룬 책이 있습니다. 과학소설과 판타지소설 작가 로저 젤라즈니의 단편 <프로스트와 베타>는 인류가 사라진 세계에서 주어진 명령에 따라 지구를 생명과 인간이 다시 살 수 있는 환경으로 복구하는 기계들이 나옵니다. 책의 주인공 프로스트는 인간이 살 수 있는 환경이 무엇인지를 알려면, 인간에 대해 알아야 한다고 판단해 과거 인류가 남겨놓은 온갖 쓰레기나 잡동사니 또는 문헌과 영상자료들을 여기저기서 수집하고 분석합니다. 그러던 중 작은 이동기계 '모르델'이 찾아와 프로스트는 그 스스로가 인간이 아니기 때문에 아무리 분석하고 노력해도 인간을 근본적으로 이해할 수 없다고 지적합니다. 이에 프로스트는 충분히 많은 시간과 데이터만 주어진다면 기계도 인간을 이해할 수 있다고 반박합니다. 그리고 이 둘은 서로의 주장을 증명하고자 기계가 예술작품을 만들 수 있는지 실험하기로 합니다. 책에 나온 그들의 대화 일부를 한 번 읽어보시면 좋을 것 같습니다.

"그래, 이건 예술인가?" "나도 모르겠소." 모르델이 말했다. "예술일 수도 있겠군. 어쩌면 예술의 기법에 숨은 규칙이 무작위성일지도 모르겠소. 나로서는 이 작품을 이해할 수 없으니 평가할 수도 없소. 따라서 단순히 이 작품을 제작할 때 사용한 기법을 확인하는 대신, 작품 내면에 숨은 요소를 탐구해야 할 듯하오. 인간 예술가들은 그런 식으로 예술을 창조하지 않았소. 그들이 대상에서 중요하다고 여긴 특징이나 기능을 그려내기 위해서 기법을 사용했지." "중요하다? 어떤 의미로 사용한 단어인가?" "지금 이 맥락에서 말이 되는 유일한 의미요. 인간성에 의거한 중요성. 그 대상이 인간에게 감동을 주었기 때문에 강조할 중요성이 생기는 것이오." "어떤 방식으로?" "당연하지만 그 또한 인간성을 경험해야 알 수 있는 방식 아니겠소."

"당신에게는 새로운 기계를 설계하는 것과 같은 일 아니었소? 당신의 여러 지식을 능률적인 형태로 조합해서, 당신이 원하는 기능을 얻어내도록 만든 것이오." "그렇다." "내가 이해한 이론에 따르면, 예술은 그런 식으로 창조되는 것이 아니오. 예술가 본인은 종종 완성된 작품에 어떤 특질이나 효과가 포함될 지를 모른 채 작업하곤 했소. 당신은 인간의 논리적 피조물이오. 예술은 비논리요." "나는 비논리를 이해할 수 없다." "인간이 근본적으로 이해 불가능한 존재라고 이미 말하지 않았소."

아마존이 노동자들의 근육 사용량을 분석한다는 내용이 궁금해서 주석 링크를 읽어봤습니다. 2020년 주주들에게 보내는 서한에서 회사의 성과 및 그동안의 개선사항, 앞으로의 개선점 등 다양한 사안을 CEO 제프 베조스가 적은 이 문서에는 직원복지 및 노동환경 개선의 일부가 적혀있는데요. 한 번 읽어보시면 좋을 것 같습니다. (원문을 직역한지라 번역이 조금 어색할 수 있습니다.) "우리는 작업자들의 안전 문제에 몰두하고 있습니다. 예를 들어, 아마존에서 일어난 업무상 부상의 약 40%는 근골격계 질환(MSD)으로 염좌나 발목을 접지르는 경우로서 주로 반복적인 동작에서 발생합니다. 근골격계 질환은 아마존과 같은 작업환경과 업무에서는 자주 일어날 수 있는 일이며, 특히 직원 입사 후 첫 6개월 내에 주로 일어납니다. 우리는 육체노동에 처음 종사하는 직원들의 근골격계 질환을 낮출 해결책을 만들려고 합니다." "워킹웰 프로그램은 그 중 하나로, 2020년부터 북미 및 유럽 대륙에 걸쳐 존재하는 350개의 사업장에서 근무하는 85만 9천명의 직원들을 대상으로 안전과 신체동작 원리, 선제적인 예방조치를 교육 중입니다. 이를 통해 작업장에서의 부상을 줄일 뿐만 아니라, 일상의 야외활동에서도 긍정적인 결과를 얻을 수 있습니다." "우리는 작업자들의 근골격계 질환 부상 위험을 낮추고 반복작업으로 인한 부담을 줄이고자 다양한 작업에 요구되는 근육부위의 자극을 알고리즘으로 분석하여 직원들의 업무 일정을 자동으로 조정하는 프로그램을 개발 중입니다. 이 새로운 기술은 2021년 내에 선보일 예정인 직무 순환 프로그램의 핵심이기도 합니다." "이와 같은 조기의 MSD 예방과 방지에 대한 관심 덕에 이미 눈에 띄는 결과가 도출되고 있습니다. 2019년에서 2020년 사이 전반적인 MSD 발생률이 32% 줄어들었고 이로 인한 결근도 절반 이상 감소했습니다." https://www.aboutamazon.com/news/company-news/2020-letter-to-shareholders

하지만 아마존의 개선 노력과는 별개로 최근까지도 아마존 노동자들은 다른 동종산업 종사자 대비 근육 및 관절 부위의 부상 위험이 4배 이상 높다고 합니다. 특히 2015년에서 2017년 사이에 근골격계 질환 부상이 급증했는데 제프 베조스가 2020년 서한에서 근육 사용량을 분석하겠다고 선언한 이유도 이런 배경과 압박이 있었기 때문인가 봅니다. 워싱턴주 노동산업부는 아마존 노동자들이 유독 다른 물류창고 작업자들보다 부상 위험이 높은 이유가, 아마존 창고 특유의 '매우 높은 화물 처리 속도' 때문이라고 분석했습니다. 아마존의 2일내 배송완료 정책을 준수하기 위해서는 작업장 어디서나 높은 수준의 업무 강도가 장시간에 걸쳐 유지되어야 하기 때문이죠. 근골격계 질환은 추락에 의한 부상과 달리 장기간에 걸쳐 누적되어 나타나는 만큼, 치료하는 데도 장기간의 시간이 소요되기에 발병하면 일상만이 아니라 업무에 복귀하는 것도 어려워질 수 있다고 합니다. 아마존의 경우 MSD로 인해 결근한 작업자들은 다시 일을 할 수 있는 수준으로 회복하기까지 평균 103일이 소요되었다고 합니다. https://www.businessinsider.com/amazon-musculoskeletal-disorders-four-times-higher-2022-3

아마존이 내세우는 근육 자극량의 분석을 통한 작업 순환배치가 과연 회사의 의도만큼 근로자를 배려한 조치인지는 생각해봐야 할 문제입니다. 아마존은 직원들의 근육 자극이 한 곳에 집중되지 않도록 '효율화' 하겠다고 했지, 근본적으로 자신들의 빠르고 강도 높은 작업 환경과 속도를 줄이거나 개선하겠다고는 말하지 않았죠. 다르게 생각하면, 아마존은 육체 노동자들의 결근과 부상위험을 낮춰 업무 품질을 계속 유지하려는 목적이 1순위일 겁니다. 또한 작업자들의 부상으로 인한 이탈율을 줄여 채용과 인력모집에 소요되는 비용과 시간을 최소화 하려는 의도도 있을 테고요. 작업자들의 근육 자극을 분산한다는 건 다르게 말하면 한 명의 직원이 수행해야 할 육체노동의 유형이 늘어난다는 의미입니다. 즉 한 라인이나 한 구역에서만 일하면 되었던 노동자는 이제 다른 업무까지 추가로 수행해야 하는 거죠. 과연 그 대가로 작업자들의 경제적 보상이나 인정이 비례해서 오를까요? 그렇지 않다면 작업자들은 결국 아마존의 알고리즘에 따라 이제는 '모든 근육이 한 순간도 쉬지 않고 일해야 하는' 순환 근무를 강요당하는 건 아닌가 걱정이 되었습니다.

중간에 포드에 대한 설명이 나오는데 이에 대한 더 자세한 설명이 참고도서인 <일은 당신을 사랑하지 않는다>에 나옵니다. 책에서는 컨베이어 벨트 시스템이 생산공정에서의 혁신만이 아니라, 오늘날의 근무방식과 보상제도 그리고 현대적 가장제도의 형성까지 영향을 주었다고 말해요. 헨리 포드는 고정적이면서도 일정한 수준을 갖춘 노동력을 확보해야 생산이 통제 가능해지고, 이를 통해 이윤을 안정적으로 추구할 수 있다고 생각했습니다. 사실 당시 미국(국가)과 기업, 노동자들은 모두 각자의 이유로 안정적인 경제적 성장을 추구했는데요. 국가는 기업들의 안정적인 사업 활동을 통한 경제성장을, 기업들은 이윤의 안정적인 추구를, 노동자들은 가정을 지탱할 고정된 수입을 원했습니다. 그리고 이 세 주체들의 요구를 모두 충족하는 주5일 8시간 근무제인 '포드주의(Fordism)'가 등장하게 됩니다. 길고 고된 노동이긴 하지만 산업혁명 시기처럼 사람이 죽거나 초췌해질 정도의 강도는 아닌 근무시간 동안 일하도록 하고, 주 5일 고정적으로 출근하여 노동력을 바치는 대가로 고용주는 주급 또는 월급을 지급하는 방식이죠. 포드는 다른 제조업체들에 비해 더 높은 수준의 급여와 더불어 복리후생으로 유급휴가와 연금 혜택도 제공했습니다. 노동자들은 기업에 헌신하는 대가로 가정을 유지할 생계수단을 넘어 '경제적 여유'를 경험하게 됩니다. (1914년 포드가 제공한 일당은 당시 통상 근로자에게 제공하던 수준의 2배 이상이었다고 해요.) 그러나 헨리 포드는 이런 근무조건에 아무 노동자나 받아들이지 않았습니다. 포드 본인은 기독교적 가치를 바탕으로 한 '올바른 가정'에 사는 남편 가장들을 선호했습니다. 남성이 가장으로서 집안의 경제력을 좌우하고 그로 인해 충분한 도덕적/경제적 권위와 존경을 받는 가정. 남편들이 고된 노동으로 인한 스트레스를 해소할 수 있도록 아내들이 전업주부로서 가사 일에 충실하며 남편을 내조해야 하는 가정관이었습니다. 남성이 집안의 주된 경제적 수입을 담당하고, 여성이 가사 전반을 도맡아 남편을 지원하며, 기업으로부터는 3~4인 가족을 부양하기 충분한 수입을 얻어 생활을 영위해가는 고전적 중산층 가정의 형태는 이 시기 즈음부터 형성되어 갑니다. 포드주의에서는 가정을 노동자가 다음날에도 출근하여 동일한 수준의 노동력을 투입할 수 있도록 하는 '휴식처 또는 재활의 공간'으로 본 것이죠. 즉, 포드에게 가정이란 기업 활동의 연장선으로서 또 하나의 쉼터인 셈입니다. 자신이 생각한 노동자의 가정관 준수를 위해 포드는 근로자들을 감시하기도 하고, 심지어 그들의 집에 불시에 사람을 보내어 아내들이 가사 일을 제대로 하는지 확인하기도 했다고 해요. 수집 문장에 나온 '도덕성 시험'은 이 내용을 말하는 겁니다.