[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

책의 서문과 1장에서 제기되고 있는 데이터 주석 작업자들의 열악한 근무환경과 심리적 트라우마, 정신적 상해는 현재도 계속 진행되고 있는 문제입니다. 아프리카에서는 23년 케냐에 이어 올해 4월 가나에서도 주석 작업자들이 메타를 상대로 두 번째로 소송을 제기했고요. 주석 작업자들은 공통적으로 극단적인 폭력적 장면이나 아동학대/성폭행이 담긴 영상이나 사진에 반복 노출되었고 이로 인해 극심한 우울증과 불안증세, 불면증을 호소하고 있습니다. 작업자들이 아무리 올라오는 게시물들을 검수하더라도 이 문제는 반복될 수 밖에 없는데요. 내전과 무장조직 충돌, 전쟁 등으로 인해 극단적인 폭력과 고문이 담긴 영상이 올라오는 아프리카의 특성이 배경에 깔려있기 때문입니다. 즉 어느 국가에서 어느 작업자들을 동원하든, 그들의 규모가 얼마나 되고 어떠한 보상을 하건 상관없이 누군가가 정신적/심리적 상해를 입어야만 하는 고통의 외주화와 책임전가가 시스템의 일부로 자리 잡고 있는 셈입니다. 메타 또는 그들이 외주/하청을 맡긴 현지 대행업체들이 작업자들에게 지급하는 급여는 최소 임금 수준인데다 작업량과 기준을 달성하지 못하면 임금에서 공제되기 때문에 추가근로나 특근이 사실상 반강제되는 문제도 있다고 해요. 이로 인해 작업자들은 더 오래, 자신의 의지와 반하는 노동을 해야 하고 더 장시간 정신적 위험에 노출될 수밖에 없습니다. 근무 환경 자체도 감시와 통제의 연장으로 작업자들이 화장실을 가는 경우에도 관리자가 뒤에서 따라와 정말 화장실에 가는지, 얼마나 머무는지를 확인했다고 합니다. 가디언지에서 분석한 이곳 직원들의 급여 체계는 최소 월 1,300 가나 세디화(약 64파운드)에서 시작해 개인 성과 정도에 따라 4,900 세디화(약 243파운드)까지 받을 수 있지만 가나의 수도에서 살기에는 여전히 다소 부족한 액수라고 하네요. <가나의 메타 주석 작업자가 겪어야 했던 끔찍한 경험들> https://www.theguardian.com/technology/2025/apr/27/meta-moderator-on-the-cost-of-viewing-beheadings-child-abuse-and-suicide <직원 Solomon이 점차 피폐해져가는 과정> - 내용이 다소 자극적일 수 있습니다. https://www.theguardian.com/technology/2025/apr/27/meta-moderator-on-the-cost-of-viewing-beheadings-child-abuse-and-suicide

케냐의 Samasource(줄여서 Sama)라는 외주업체에서 주석 작업자로 근무했던 Nathan Nkunzimana는 여성이 살해 당하는 영상과 더불어 어린아이가 성적으로 학대 당하는 게시물을 검수 때문에 지켜봐야 했다고 합니다. 자신 외에도 수많은 작업장의 직원들이 때때로 이런 게시물들 때문에 그 자리에서 눈물을 흘리거나 비명을 지르기도 했다고 하고요.. 이곳에서 근무했던 작업자 중 약 200여명이 약 16억 달러의 보상을 요구하며 메타를 상대로 소송을 진행하고 있습니다. Nkunzimana의 인터뷰가 기억에 남아서 번역을 해서 적어봅니다. "페이스북 페이지를 둘러 보고 여기저기 돌아다니면서 전혀 불쾌한 경험이 없었다면 저 같은 사람들이 그 똑같은 스크린의 화면을 보며 검수하고 있기 때문입니다. 주석 작업자들은 전장의 군인과도 같아 페이스북 사용자들을 대신해 각종 해로운 컨텐츠라는 총알을 맞는 셈입니다." "처음에는 공동체를 위해 영웅과도 같은 일을 한다는 자부심이 있었습니다. 하지만 자극적인 영상들에 노출될 때마다 고향의 정치적/인종적 분쟁으로부터 달아났던 과거가 되살아나곤 했습니다. 작업장에는 휴대폰 같은 개인 소지물을 들고 올 수 없었고 일터에서 경험하거나 겪은 일을 외부에 유출해서는 안된다는 비공개 동의서에 서명해야 했습니다." "일이 끝나고 집에 돌아오면 완전히 지쳐버려 침실에 들어가 문을 잠그고 하루 종일 틀어박혀 그 날 본 기억을 잊으려고 노력했습니다. 가족들은 제가 어떤 일터에서 어떤 상황을 겪는지 전혀 상상도 못합니다. 최근에는 아이가 저에게 찾아와 왜 일을 그만뒀냐며, 왜 더이상 일을 하지 않아 학교에 갈 돈을 마련할 수 없는 거냐며 묻기 때문에 질문을 피하려고 방에서 나오지도 않습니다." <2023년 케냐 주석 작업자의 사례> https://www.nbcnewyork.com/news/national-international/facebook-content-moderators-in-kenya-call-the-work-torture-their-lawsuit-may-ripple-worldwide/4463454/?amp=1

책과 기사에서는 메타의 사례가 많이 나오지만 사실 주석 작업자들의 피해는 이미 SNS기업 전반에 퍼진 사회문제로 봐야 합니다. 올해 3월, 케냐에서는 동영상 플랫폼 '틱톡(Tiktok)' 컨텐츠 검수를 담당하던 나이지리아 출신 여직원(Ladi Anzaki Olubunmi)이 자살하는 사고가 벌어지기도 했습니다. 자살 사유나 유서는 아직까지도 확인되지 않았지만 동료들은 Olubunmi가 장기간 고향에 가지 못하고 스트레스를 받아왔다고 말했는데요. 3년 전 케냐로 이주한 후 고향에 방문한 건 딱 한 번 뿐이었다고 합니다. 케냐의 외주업체 Teleperformance Kenya에서 일하는 주석 작업자 중 약 100여명 이상이 나이지리아 출신이지만 이들은 외국인 취업 허가증을 발급 받지 못했다고 해요. 이로 인해 회사에서 연1회 복지 차원에서 제공하는 항공권 티켓을 받아도 고향에 갈 수 없는 경우가 대부분이랍니다. Olubunmi의 가족은 그녀의 시신을 고향으로 이송할 재정적 여력이 없기에 케냐 나이로비 현지의 수도원에서 장례를 치룰 것을 부탁했다고 합니다. https://apnews.com/article/kenya-content-moderators-facebook-tik-tok-aa8cd8bd993c38d4701a64cfb7cd8ee6

어제 책을 펼치고 단숨에 2장까지 읽었어요. AI 기술이나 주가, 이익보다 더 중요한 그 뒤에서 일하는 사람들에 대한 이야기에 오늘 내가 무심코 사용한 어플리케이션이나, 피드, 숏폼, 코파일럿까지 다시 한번 보게 되네요. 언젠가 새벽배송은 그냥 새벽에 택배가 와 있는 것이 아니라 밤새 일한 수많은 사람들이 문 너머에 있다는 글을 본 적이 있는데 AI 도 마찬가지인 것 같아요. 아직도 여전히 데이터 주석작업은 수많은 노동력을 필요로 하는데 우리가 편하게 누린 많은 것들이 다 그분들 덕분인 건지 희생인건지 생각하게 되네요. 늘 하는 생각이죠. 그럼에도 불구하고 이런 일자리가 생겨서 다행인 것인지 그렇다고 해도 좀더 인간적인 환경에서 일하며 삶의 질이 향상 될 수 있도록 글로벌 거대 기업들이 책임감을 느껴야 하는 것은 당연하겠죠. AI는 수많은 데이터를 빨아들여 통계적 예측치로 변환하는 추출기계일 뿐 두려워하지 말고 잘 활용하면서 관련 기술을 가진 기업들을 잘 감시하고 통제하는 것도 저희 사용자의 역할인 것 같습니다.

AI도 그렇고 결국 많은 서비스와 상품들의 이면을 소비자가 볼 수 없다는 점이 문제의 핵심 같네요. 소비자의 입장에서는 어떤 제품이나 서비스가 만들어지기까지, 가치가 부여되기까지 전체 연결고리를 들여다 볼 방법이 없죠. 기업은 정보의 비대칭성을 이용해 '가격과 품질'이라는 표면적인 형태만 잘 다듬어 시장에 출시하고 과정을 은폐하거나 축소하면 되고요. 소비자가 기업의 모든 과정을 들여다 보기도 힘들고, 현실적으로 그럴 여유나 가능성은 희박하기에 결국 기업의 의사결정 과정에서 주주와 경영진만이 아닌 보다 다양한 이해관계자들이 개입할 수 있도록 장치가 마련되어야 한다고 생각해요. 회사의 절대 다수를 구성하는 노동자와 근로자들, 기업의 결과물을 이용하는 고객, 기업이 사업을 영위하는 근거지의 공동체까지 말이죠. 결과를 바꿀 수 없다면, 최소한 결과를 만들기 위한 의사결정 과정에서 권력의 비대칭과 불균형을 해소해야 고통과 책임을 떠안는 희생자들이 줄어들 수 있다고 생각합니다.

인공지능이 먹은 인간은 우리 눈에 보이지 않습니다 인공지능은 더 이상 미래의 기술이 아닙니다. 우리는 이미 검색, 번역, 배달, 금융 서비스 같은 수많은 일상에서 AI의 도움을 받고 있습니다. 그러나 AI의 편리함이 커질수록 오히려 더 작아지는 존재가 있습니다. 바로 AI 뒤에서 보이지 않는 노동을 수행하는 사람들, 우리가 기술의 표면만 보느라 놓치고 있는 '가려진 인간'들입니다. <AI는 인간을 먹고 자란다>는 AI 산업의 반짝이는 겉면 뒤에 숨어 있는 이 노동의 실체를 집요하게 추적합니다. 저자들은 AI를 '추출 기계'라 부릅니다. 인간의 지식, 감정, 창의성, 육체적 노동까지 흡수해 데이터라는 연료를 만들어내고, 이를 다시 자본과 권력으로 바꾸는 기계라는 뜻입니다. 우리가 떠올리는 실리콘밸리의 혁신은 사실 이 기계가 돌기 위한 화려한 전면부일뿐, 그 뒤편에는 하루 종일 모니터 앞에서 사물에 라벨을 붙이고, 음성을 전사하고, 콘텐츠를 걸러내는 수백만의 노동자가 존재합니다. AI 훈련 시간의 80%가 데이터 주석 작업에 쓰인다는 사실은 이 산업의 본질을 단적으로 보여줍니다. 그러나 이 노동자들은 뉴스에도, 기업의 홍보에도 등장하지 않습니다. 존재하지만 보이지 않는 인간들, 혹은 '인간 취급을 받지 못하는 존재'로 밀려난 사람들입니다. 이 지점에서 조지프 콘래드의 <어둠의 심연>이 떠오릅니다. 작중 주인공 말로가 콩고강에서 처음 마주한 원주민들을 '문명 이전의 존재'로 간주하던 서구의 시선은 가까이 다가설수록 무너집니다. 그들도 인간이며 욕망과 감정과 존엄을 가진 존재라는 사실을 깨닫는 순간, 말로는 충격을 받습니다. 식민주의의 핵심은 인간을 인간으로 보지 않는 데서 출발합니다. 그렇기 때문에 그들의 노동과 땅과 생명은 얼마든지 착취 가능한 것으로 간주됩니다. AI 산업의 구조 또한 이와 놀랍도록 닮아 있습니다. 기술의 편리함 뒤에서 발생하는 고된 노동은 '기술의 자연스러운 과정' 또는 '부차적인 비용'으로 취급됩니다. 인간이 개별적인 주체로 보이지 않으면, 그들의 시간과 고통 역시 쉽게 삭제됩니다. 식민주의가 한때 그랬듯이 말입니다. '가려진 인간'이 인공지능 뒤에 있다는 걸 알아차린다면 기술 발전의 놀라움 대신 커다란 충격으로 다가올 것 같습니다.

의견 감사합니다. @RAMO 님께서 말씀하신대로, 또 저자들의 지적처럼 현재 AI산업은 과거의 산업발전의 역사에서 반복되어 온 문제의 근원을 똑같이 답습하고 있죠. 결국 일부 기업가나 자본가가 주도하는 산업의 흐름 속에 개인을 강요하여 몰아넣는 점, 시스템이 사회를 위해 존재하는 것이 아닌 사회가 시스템을 위해 맞춰가야 한다는 점이 제일 문제라고 생각합니다. AI산업이 이전의 경제 변화의 흐름들과 다른 점은 실체보다 그 실체를 둘러싼 '환상'이 더 영향력이 있다는 점, 그리고 그 환상들이 겹겹이 쌓여 AI산업을 더 불투명하게 만들고 있다는 점일 겁니다. 산업혁명 시대나 컨베이어 벨트를 통한 대량 자동생산이 가능해진 생산혁신 시기에도 산업에 가려지는 노동자들이 있었지만, 최소한 그때는 유형의 결과물이 존재했고 산업에 종사하던 노동자들이 함께 부대끼며 살았죠.(비록 사회는 그들을 무시했지만요) 하지만 '글로벌 공급망' 또는 '유연한 고용구조'라는 이름으로 해외 아웃소싱이 증가하면서 산업의 기반이 되는 계층들의 존재감마저 외주화 되고 있죠. 고용구조는 점점 비용절감이라는 명목으로 단기계약직, 하청, 파견직이 늘어나 노동자/근로자간 연대와 공감을 어렵게 만들고 있고요. 그에 비해 AI산업은 AI자체적인 무형의 특성, 그것이 가져다 줄 '불분명한 미래에 대한 약속', 일부 혁신적 기업가들에 대한 신화라는 환상들이 재생산되고 있습니다. 그리고 언론들은 이런 방향성 위주로만 조명하고 있죠. 그 결과 우린 주석노동자들의 고충도, 그들의 헌신과 기여도 제대로 알 수 없게 되었습니다. 생성형AI는 최소 억단위 이상의 매개변수를 통해 결과를 도출하지만 그 과정과 결과의 흐름을 인간이 분석하고 파악할 수 없는 불투명성이 있죠. AI만큼이나 AI산업 그 자체도 공급망이나 가치사슬, 고용구조 전반에 걸쳐 불투명성이 실체를 가리고 있다는 점이 문제라고 생각되네요.

2) 주석 작업자들은 언제든지 대체될 수 있다는 불안감, 발전하고 커리어 래더를 밟을 수 있는 일인 지에 대한 의구심이 무엇보다 힘든 이유라고 생각해요. 보통 일이라는 것은 보상과 재미, 그리고 일의 의미 이 세가지가 필요하다고 하는데 주석 작업자들을 대하는 기업들의 태도를 보면 이 세가지가 모두 결여된 것 같네요. 3) ai는 주어진 데이터를 통계로 접근한다는 점에서 목소리가 큰 집단, 온라인 데이타를 잘 만들어내는 집단에 악용될 가능성이 가장 위험한 점이라고 생각해요. 책에서 나온 디지털 우생학이라는 현상과도 비슷하고 온라인과 거리가 먼 집단의 소수 의견은 점점 더 배제될 것 같네요.