[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

안녕하세요 @참미르 님! 참여해주셔서 감사합니다. 팀원들 중에 몇 명은 개인 사비로 사용 중인데 문헌/유사사례 검색이나 요약, 간략한 서식 작성 등에 주로 사용하더라고요. 다른 팀 중에서는 아예 회사 경비로 신청하여 좀 더 높은 버전을 쓰는 곳도 있고요. 저는 아직은 업무에서든 개인적으로든 생성형 AI를 쓰고 있지 않습니다. 다른 것보다도 생성형 AI가 제안하거나 내놓은 결과물을 제가 다시 검증해야 하거나 그것이 사실인지 확인하는 절차가 싫어서 안 쓰고 있어요. (게을러서 새로운 걸 안 배우는 것도 있긴 합니다 😅) 후배들이 만들어 온 자료나, 제가 해오라고 지시하거나 부탁한 업무 점검하는 것도 어떨 때는 귀찮은 데 'AI도 내가 봐야 하나?' 라는 생각이 들어서요.. 개인적으로 이번 책을 고른 이유는, AI 사용법이나 거기에 대한 적응 또는 미래예측과 트렌드를 주로 설명하는 책들이 서점을 지배하고 있는 상황에서 혼자 삐딱선(?)을 타는 것이 눈에 들어왔기 때문입니다. 남들이 다 하는 비슷한 말들 속에서 낭중지추처럼 존재감이 드러난다고 해야 할까요. 이런 종류의 책들을 좋아하기도 하고, 또 마침 주제가 AI라서 골라봤는데 전 만족스럽게 읽고 있습니다. 단지 노동시장만이 아니라 AI가 소모하고 있는 환경, 자본, 감정, 창의성에 이르기까지 AI와 빅테크 그리고 언론들이 주목하지 않거나 가리고 있는 뒷모습을 다각도로 볼 수 있는 점도 마음에 들고요. AI에 대해서는 낙관론과 비관론이 모두 공존하고 있지만, 미래학자들은 '어정쩡하게 AI가 대체하는 미래'가 올 거라는 예측들이 있습니다. 완전 대체의 시대가 아닌, 기존 직업들이 가진 업무의 상당 부분과 %가 조각난 퍼즐이나 헤진 옷처럼 여기저기 부분부분 AI가 대체하고 있는 미래 말이죠. 사실 AI 시대가 오더라도 많은 중소기업이나 자금력이 부족한 회사들은 AI 활용이나 대체를 적용하기 어려울 겁니다. 예를 들어 산업현장에서도 보면 아직까지도 이런 설비나 소프트웨어가 굴러가나 싶을 정도로 오래된 장비들을 사용 중인 곳들이 있죠. 하지만 그럼에도 전체로서의 기능은 여전히 작동합니다. AI 시대 이전에 우리가 살고 있는 인터넷과 디지털 시대가 세상의 풍경을 바꾸었어도, 아직 디지털화가 완전히 세상 모든 곳에 균질하게 퍼지지 않은 것처럼 결국에는 기업들의 가치판단 기준인 '수익성'에 따라 어디까지만 대체할지를 부분적으로 선택할 것 같습니다. 문제는 개개인들에게는 그런 '어정쩡한 미래'가 가장 대비하기 어렵고 모호하다는 점이겠죠. https://www.g-enews.com/article/Global-Biz/2025/10/20251011164919257fbbec65dfb_1

“오늘날의 AI 산업은 식민주의적 착취 구조의 최신 버전일 뿐이며, 이 시스템은 노동자들이 구조 자체를 바꿀 수 없도록 철저히 설계되어 있다.” - 본문 중에서

기계가 인간을 닮아가기 위한 과정 속에서 창의성과 예술을 탐구해가는 과정을 다룬 책이 있습니다. 과학소설과 판타지소설 작가 로저 젤라즈니의 단편 <프로스트와 베타>는 인류가 사라진 세계에서 주어진 명령에 따라 지구를 생명과 인간이 다시 살 수 있는 환경으로 복구하는 기계들이 나옵니다. 책의 주인공 프로스트는 인간이 살 수 있는 환경이 무엇인지를 알려면, 인간에 대해 알아야 한다고 판단해 과거 인류가 남겨놓은 온갖 쓰레기나 잡동사니 또는 문헌과 영상자료들을 여기저기서 수집하고 분석합니다. 그러던 중 작은 이동기계 '모르델'이 찾아와 프로스트는 그 스스로가 인간이 아니기 때문에 아무리 분석하고 노력해도 인간을 근본적으로 이해할 수 없다고 지적합니다. 이에 프로스트는 충분히 많은 시간과 데이터만 주어진다면 기계도 인간을 이해할 수 있다고 반박합니다. 그리고 이 둘은 서로의 주장을 증명하고자 기계가 예술작품을 만들 수 있는지 실험하기로 합니다. 책에 나온 그들의 대화 일부를 한 번 읽어보시면 좋을 것 같습니다.

"그래, 이건 예술인가?" "나도 모르겠소." 모르델이 말했다. "예술일 수도 있겠군. 어쩌면 예술의 기법에 숨은 규칙이 무작위성일지도 모르겠소. 나로서는 이 작품을 이해할 수 없으니 평가할 수도 없소. 따라서 단순히 이 작품을 제작할 때 사용한 기법을 확인하는 대신, 작품 내면에 숨은 요소를 탐구해야 할 듯하오. 인간 예술가들은 그런 식으로 예술을 창조하지 않았소. 그들이 대상에서 중요하다고 여긴 특징이나 기능을 그려내기 위해서 기법을 사용했지." "중요하다? 어떤 의미로 사용한 단어인가?" "지금 이 맥락에서 말이 되는 유일한 의미요. 인간성에 의거한 중요성. 그 대상이 인간에게 감동을 주었기 때문에 강조할 중요성이 생기는 것이오." "어떤 방식으로?" "당연하지만 그 또한 인간성을 경험해야 알 수 있는 방식 아니겠소."

"당신에게는 새로운 기계를 설계하는 것과 같은 일 아니었소? 당신의 여러 지식을 능률적인 형태로 조합해서, 당신이 원하는 기능을 얻어내도록 만든 것이오." "그렇다." "내가 이해한 이론에 따르면, 예술은 그런 식으로 창조되는 것이 아니오. 예술가 본인은 종종 완성된 작품에 어떤 특질이나 효과가 포함될 지를 모른 채 작업하곤 했소. 당신은 인간의 논리적 피조물이오. 예술은 비논리요." "나는 비논리를 이해할 수 없다." "인간이 근본적으로 이해 불가능한 존재라고 이미 말하지 않았소."

아마존이 노동자들의 근육 사용량을 분석한다는 내용이 궁금해서 주석 링크를 읽어봤습니다. 2020년 주주들에게 보내는 서한에서 회사의 성과 및 그동안의 개선사항, 앞으로의 개선점 등 다양한 사안을 CEO 제프 베조스가 적은 이 문서에는 직원복지 및 노동환경 개선의 일부가 적혀있는데요. 한 번 읽어보시면 좋을 것 같습니다. (원문을 직역한지라 번역이 조금 어색할 수 있습니다.) "우리는 작업자들의 안전 문제에 몰두하고 있습니다. 예를 들어, 아마존에서 일어난 업무상 부상의 약 40%는 근골격계 질환(MSD)으로 염좌나 발목을 접지르는 경우로서 주로 반복적인 동작에서 발생합니다. 근골격계 질환은 아마존과 같은 작업환경과 업무에서는 자주 일어날 수 있는 일이며, 특히 직원 입사 후 첫 6개월 내에 주로 일어납니다. 우리는 육체노동에 처음 종사하는 직원들의 근골격계 질환을 낮출 해결책을 만들려고 합니다." "워킹웰 프로그램은 그 중 하나로, 2020년부터 북미 및 유럽 대륙에 걸쳐 존재하는 350개의 사업장에서 근무하는 85만 9천명의 직원들을 대상으로 안전과 신체동작 원리, 선제적인 예방조치를 교육 중입니다. 이를 통해 작업장에서의 부상을 줄일 뿐만 아니라, 일상의 야외활동에서도 긍정적인 결과를 얻을 수 있습니다." "우리는 작업자들의 근골격계 질환 부상 위험을 낮추고 반복작업으로 인한 부담을 줄이고자 다양한 작업에 요구되는 근육부위의 자극을 알고리즘으로 분석하여 직원들의 업무 일정을 자동으로 조정하는 프로그램을 개발 중입니다. 이 새로운 기술은 2021년 내에 선보일 예정인 직무 순환 프로그램의 핵심이기도 합니다." "이와 같은 조기의 MSD 예방과 방지에 대한 관심 덕에 이미 눈에 띄는 결과가 도출되고 있습니다. 2019년에서 2020년 사이 전반적인 MSD 발생률이 32% 줄어들었고 이로 인한 결근도 절반 이상 감소했습니다." https://www.aboutamazon.com/news/company-news/2020-letter-to-shareholders

하지만 아마존의 개선 노력과는 별개로 최근까지도 아마존 노동자들은 다른 동종산업 종사자 대비 근육 및 관절 부위의 부상 위험이 4배 이상 높다고 합니다. 특히 2015년에서 2017년 사이에 근골격계 질환 부상이 급증했는데 제프 베조스가 2020년 서한에서 근육 사용량을 분석하겠다고 선언한 이유도 이런 배경과 압박이 있었기 때문인가 봅니다. 워싱턴주 노동산업부는 아마존 노동자들이 유독 다른 물류창고 작업자들보다 부상 위험이 높은 이유가, 아마존 창고 특유의 '매우 높은 화물 처리 속도' 때문이라고 분석했습니다. 아마존의 2일내 배송완료 정책을 준수하기 위해서는 작업장 어디서나 높은 수준의 업무 강도가 장시간에 걸쳐 유지되어야 하기 때문이죠. 근골격계 질환은 추락에 의한 부상과 달리 장기간에 걸쳐 누적되어 나타나는 만큼, 치료하는 데도 장기간의 시간이 소요되기에 발병하면 일상만이 아니라 업무에 복귀하는 것도 어려워질 수 있다고 합니다. 아마존의 경우 MSD로 인해 결근한 작업자들은 다시 일을 할 수 있는 수준으로 회복하기까지 평균 103일이 소요되었다고 합니다. https://www.businessinsider.com/amazon-musculoskeletal-disorders-four-times-higher-2022-3

아마존이 내세우는 근육 자극량의 분석을 통한 작업 순환배치가 과연 회사의 의도만큼 근로자를 배려한 조치인지는 생각해봐야 할 문제입니다. 아마존은 직원들의 근육 자극이 한 곳에 집중되지 않도록 '효율화' 하겠다고 했지, 근본적으로 자신들의 빠르고 강도 높은 작업 환경과 속도를 줄이거나 개선하겠다고는 말하지 않았죠. 다르게 생각하면, 아마존은 육체 노동자들의 결근과 부상위험을 낮춰 업무 품질을 계속 유지하려는 목적이 1순위일 겁니다. 또한 작업자들의 부상으로 인한 이탈율을 줄여 채용과 인력모집에 소요되는 비용과 시간을 최소화 하려는 의도도 있을 테고요. 작업자들의 근육 자극을 분산한다는 건 다르게 말하면 한 명의 직원이 수행해야 할 육체노동의 유형이 늘어난다는 의미입니다. 즉 한 라인이나 한 구역에서만 일하면 되었던 노동자는 이제 다른 업무까지 추가로 수행해야 하는 거죠. 과연 그 대가로 작업자들의 경제적 보상이나 인정이 비례해서 오를까요? 그렇지 않다면 작업자들은 결국 아마존의 알고리즘에 따라 이제는 '모든 근육이 한 순간도 쉬지 않고 일해야 하는' 순환 근무를 강요당하는 건 아닌가 걱정이 되었습니다.

중간에 포드에 대한 설명이 나오는데 이에 대한 더 자세한 설명이 참고도서인 <일은 당신을 사랑하지 않는다>에 나옵니다. 책에서는 컨베이어 벨트 시스템이 생산공정에서의 혁신만이 아니라, 오늘날의 근무방식과 보상제도 그리고 현대적 가장제도의 형성까지 영향을 주었다고 말해요. 헨리 포드는 고정적이면서도 일정한 수준을 갖춘 노동력을 확보해야 생산이 통제 가능해지고, 이를 통해 이윤을 안정적으로 추구할 수 있다고 생각했습니다. 사실 당시 미국(국가)과 기업, 노동자들은 모두 각자의 이유로 안정적인 경제적 성장을 추구했는데요. 국가는 기업들의 안정적인 사업 활동을 통한 경제성장을, 기업들은 이윤의 안정적인 추구를, 노동자들은 가정을 지탱할 고정된 수입을 원했습니다. 그리고 이 세 주체들의 요구를 모두 충족하는 주5일 8시간 근무제인 '포드주의(Fordism)'가 등장하게 됩니다. 길고 고된 노동이긴 하지만 산업혁명 시기처럼 사람이 죽거나 초췌해질 정도의 강도는 아닌 근무시간 동안 일하도록 하고, 주 5일 고정적으로 출근하여 노동력을 바치는 대가로 고용주는 주급 또는 월급을 지급하는 방식이죠. 포드는 다른 제조업체들에 비해 더 높은 수준의 급여와 더불어 복리후생으로 유급휴가와 연금 혜택도 제공했습니다. 노동자들은 기업에 헌신하는 대가로 가정을 유지할 생계수단을 넘어 '경제적 여유'를 경험하게 됩니다. (1914년 포드가 제공한 일당은 당시 통상 근로자에게 제공하던 수준의 2배 이상이었다고 해요.) 그러나 헨리 포드는 이런 근무조건에 아무 노동자나 받아들이지 않았습니다. 포드 본인은 기독교적 가치를 바탕으로 한 '올바른 가정'에 사는 남편 가장들을 선호했습니다. 남성이 가장으로서 집안의 경제력을 좌우하고 그로 인해 충분한 도덕적/경제적 권위와 존경을 받는 가정. 남편들이 고된 노동으로 인한 스트레스를 해소할 수 있도록 아내들이 전업주부로서 가사 일에 충실하며 남편을 내조해야 하는 가정관이었습니다. 남성이 집안의 주된 경제적 수입을 담당하고, 여성이 가사 전반을 도맡아 남편을 지원하며, 기업으로부터는 3~4인 가족을 부양하기 충분한 수입을 얻어 생활을 영위해가는 고전적 중산층 가정의 형태는 이 시기 즈음부터 형성되어 갑니다. 포드주의에서는 가정을 노동자가 다음날에도 출근하여 동일한 수준의 노동력을 투입할 수 있도록 하는 '휴식처 또는 재활의 공간'으로 본 것이죠. 즉, 포드에게 가정이란 기업 활동의 연장선으로서 또 하나의 쉼터인 셈입니다. 자신이 생각한 노동자의 가정관 준수를 위해 포드는 근로자들을 감시하기도 하고, 심지어 그들의 집에 불시에 사람을 보내어 아내들이 가사 일을 제대로 하는지 확인하기도 했다고 해요. 수집 문장에 나온 '도덕성 시험'은 이 내용을 말하는 겁니다.

먼저 온 미래, 오프 모임에서 읽었습니다. 신기술이 상용화되기 시작하면 사회적 첫반응은 우려와 거부가 주를 이루는 경우가 많다고 생각합니다. 그런 우려들은 매우 타당하기도 하고 꽤 중요한 의미를 포함하고 있기도 하죠 그렇지만 지나놓고 보면 다소 이상해보일 정도로 낯설기도 합니다. 그냥 일상이 되어버렸으니까요. 이에 대해선 사피엔스의 명문장이 잘 설명했단 생각이 듭니다. "인류 역사를 통틀어 사치품은 필수품이 되고, 새로운 의무를 낳는 경향이 있다. 일단 사치에 익숙해진 사람들은 그것을 당연한 것으로 받아들인다. 그러고 나면 그것 없이 살 수 없게 되며, 머지않아 그것을 갖지 못한 사람들은 불행하다고 느끼기 시작한다. 수많은 발명품들, 예를 들어 멈출 줄 모르는 소비의 수레바퀴를 굴린 것들이 모두 이러한 사치품의 덫이었다." 플라톤의 <파이드로스>에는 소크라테스가 발명의 신 토트와 타무스왕의 대화를 인용하면서 문자를 비판하는 내용이 나오는데, 구술시대의 소크라테스는 문자가 인간의 기억력을 퇴화시키고, 지식을 고립시킬 거라고 우려하고 있습니니다. 고미숙의 <나비와 전사>에는 기차가 처음 나왔을 당시 전세계 사람들이 느꼈던 충격과 공포에 대한 얘기가 나오는데요. 당시의 의사와 과학자들은 시속 30마일(약 48km/h) 이상의 속도로 달리는 기차를 타면 뇌가 몸에서 분리되거나, 혈관이 터져서 실명할 수 있다고 경고했습니다.특히 여성과 신경이 약한 사람들은 기차 여행 후 **'기관차 정신병(Locomotive Mania)'**을 겪을 것이라는 두려움이 널리 퍼졌습니다. 또 엄청난 굉음, 매연, 진동은 인간의 감각기관이 감당할 수 없는 폭력적인 환경으로 인식되었습니다. 제가 초기에 AI를 사용했을때는 너무 자주 틀린 답을 내놓아서 그저 장난감같은 느낌이었는데 1년만에 너무 빠른 속도로 성장했음을 체감합니다. 문과이고 책을 좀 많이 읽는 편인 제게도 이런 정도의 체감이라면 실용적인 면에선 더 파괴력이 있다고 생각합니다. 그저 몇몇 일자리 정도가 아니라 대부분의 사무직 일자리들은 빠르게 타격을 입고 있다고 보입니다. 특히 경력이 전혀 없는 신규채용은 거의 0에 수렴하고 있다고 해도 좋을 정도의 보고가 있습니다. 오프에서 만나는 청년들이 작년도 어려웠지만 올해는 구인자체가 씨가말랐다, 인턴도 2년의 경력을 요구하더라...이런 얘기를 하거든요. 이와 관련해서는 10년 전에 나온 <로봇의 시대, 인간의 일>에서도 꽤 잘 예측했던 것 같습니다. AI는 틀린 지식들을 말하는 경우도 많습니다. 그러나 제 경험으로는 권위있는 저자들의 책에서도 그런 내용들이 있었고, 제 오랜 편견을 만들어오기도 했더라고요. 이것을 사용할 때 인터넷에 집적된 수많은 정보의 집합이라는 전제를 늘 염두에 둔다라면 잘못된 정보에 의존하는 위험을 피할 수 있으리라고 봅니다. 저는 먼저온 미래를 읽으며, AI로 인한 지식접근성의 평등이 이루어질 수도 있으며, 인류의 오랜 집단지성의 결과물인 AI와 경쟁하면서 유능함 앞에 한 개인이 느끼는 좌절감은 어떤 면에서 당연하지 않나 라는 생각도 했습니다. 아무튼 오늘이나 내일 중으로 책을 구하면 읽어보려 합니다. 새로운 시각, 새로운 주제에 설레네요