[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

AI 또는 테크 기업에 유독 남성 직원과 창업자들이 많은 이유는 무엇일까요. 특정한 산업은 특정한 성별의 진입을 차단하거나 성공을 막는 어떤 요인이 있어서 일까요? 아니면 단지 남성들이 개발이나 프로그래밍에 더 흥미를 느끼는 경향성이 있는 걸까요? 아니면 단지 우연에 불과할까요? 프로그래머나 개발자 하면 떠오르는 몇 가지 인상이나 관념 중에는 늦은 시간까지 야근을 하거나 장기간 숙식을 회사에서 해결하며 개발을 하는 모습이 있습니다. 초반에 추천드린 책인 <일은 당신을 사랑하지 않는다>에서는 테크 기업과 IT산업, 프로그래머 직군이 유독 남성 종사자가 많은 이유를 프로그래머라는 직업의 초창기 환경이 굳어지면서 만들어진 '신화'로 해석합니다. 1960년대 아르파넷 개발 당시 참여한 프로그래머들의 평균 근무시간은 하루 16시간이었다고 합니다. 개발자들은 자신들의 아르파넷 개발상의 문제를 해결하기 위해 각자의 아이디어를 실현하면서 장시간 노동을 이어갔고, 그 과정에서 게임이나 이메일의 개념이 도입되기도 했습니다. 이 때 아르파넷 개발에 참여한 종사자들은 전부 남성이었는데 이들에 의한 인터넷 개념의 도입은 이후 IT업계에 종사하려면 '자기 일을 재밌어 하고 자발적으로 자기 시간을 장시간 바쳐 근무하는 개발자'라는 열정신화가 업계에 뿌리내렸다고 저자는 분석합니다. 그리고 이 과정에서 초창기의 남성으로 구성된 멤버들의 특성이 이후 정보통신과 IT산업에서 남성성과 결부되었다고 보고요. 60년대에 시작된 이런 경향성은 이후 70~80년대를 거치며 인텔과 애플이 개인용 컴퓨터, 즉 PC 보급이 확대되면서 굳어져 갔다고 분석합니다. 상대적으로 남성 종사자가 많았고 그로 인해 컴퓨터에 관심을 갖는 남성도 많았던 시대 분위기에서 기업들은 컴퓨터와 게임을 남자아이들을 타겟으로 하는 광고에 집중합니다. 점차 남자가 곧 미래의 컴퓨터와 전자장비의 수요자이자 프로그래머라는 개념은 닭이 먼저냐 알이 먼저냐처럼 구분이 불가능한 순환관계가 되어 서로가 서로의 확산을 부추깁니다. 남성을 중심으로 한 기업들의 PC보급은 자연스레 컴퓨터에 대한 접근성 그리고 활용능력에 있어 성별에 따른 차이를 만들어내면서 계층/직업장벽이 곧 성별장벽으로 이어졌다고 보고 있습니다.

하지만 재밌는 건 최초의 현대적 민간 컴퓨터로 평가 받는 에니악의 프로그래머 겸 정비/실행을 담당한 인원들은 여성이었다는 점입니다. 에니악의 물리적 개발 자체는 남자 공학도들이 주도했지만 실제 에니악을 프로그래밍하고 작동하기 위한 인원도 필요했는데 1945년 6명의 여성이 전문적인 훈련을 받아 프로그래머가 되었습니다. 우리의 현재의 인식과는 별개로 초기의 컴퓨터 산업과 업계, 특히 프로그래머는 여성들이 진출하고 활약하던 영역인 겁니다. 이들만이 아니더라도, 과거 영화를 보면 무수히 많은 여성들이 사무실이나 공간에 앉아 계산기나 주판을 두드려 전문적인 계산을 하던 광경이 가끔 나오죠. 컴퓨터의 어원 Computer가 계산을 하는 사람, 즉 계산수를 의미하며 과거 수학을 전공한 여성들이 '컴퓨터'로서 활약했던 역사를 생각해보면 IT와 컴퓨터는 사실 여성들의 기여가 있던 셈입니다.

책의 서문과 1장에서 제기되고 있는 데이터 주석 작업자들의 열악한 근무환경과 심리적 트라우마, 정신적 상해는 현재도 계속 진행되고 있는 문제입니다. 아프리카에서는 23년 케냐에 이어 올해 4월 가나에서도 주석 작업자들이 메타를 상대로 두 번째로 소송을 제기했고요. 주석 작업자들은 공통적으로 극단적인 폭력적 장면이나 아동학대/성폭행이 담긴 영상이나 사진에 반복 노출되었고 이로 인해 극심한 우울증과 불안증세, 불면증을 호소하고 있습니다. 작업자들이 아무리 올라오는 게시물들을 검수하더라도 이 문제는 반복될 수 밖에 없는데요. 내전과 무장조직 충돌, 전쟁 등으로 인해 극단적인 폭력과 고문이 담긴 영상이 올라오는 아프리카의 특성이 배경에 깔려있기 때문입니다. 즉 어느 국가에서 어느 작업자들을 동원하든, 그들의 규모가 얼마나 되고 어떠한 보상을 하건 상관없이 누군가가 정신적/심리적 상해를 입어야만 하는 고통의 외주화와 책임전가가 시스템의 일부로 자리 잡고 있는 셈입니다. 메타 또는 그들이 외주/하청을 맡긴 현지 대행업체들이 작업자들에게 지급하는 급여는 최소 임금 수준인데다 작업량과 기준을 달성하지 못하면 임금에서 공제되기 때문에 추가근로나 특근이 사실상 반강제되는 문제도 있다고 해요. 이로 인해 작업자들은 더 오래, 자신의 의지와 반하는 노동을 해야 하고 더 장시간 정신적 위험에 노출될 수밖에 없습니다. 근무 환경 자체도 감시와 통제의 연장으로 작업자들이 화장실을 가는 경우에도 관리자가 뒤에서 따라와 정말 화장실에 가는지, 얼마나 머무는지를 확인했다고 합니다. 가디언지에서 분석한 이곳 직원들의 급여 체계는 최소 월 1,300 가나 세디화(약 64파운드)에서 시작해 개인 성과 정도에 따라 4,900 세디화(약 243파운드)까지 받을 수 있지만 가나의 수도에서 살기에는 여전히 다소 부족한 액수라고 하네요. <가나의 메타 주석 작업자가 겪어야 했던 끔찍한 경험들> https://www.theguardian.com/technology/2025/apr/27/meta-moderator-on-the-cost-of-viewing-beheadings-child-abuse-and-suicide <직원 Solomon이 점차 피폐해져가는 과정> - 내용이 다소 자극적일 수 있습니다. https://www.theguardian.com/technology/2025/apr/27/meta-moderator-on-the-cost-of-viewing-beheadings-child-abuse-and-suicide

케냐의 Samasource(줄여서 Sama)라는 외주업체에서 주석 작업자로 근무했던 Nathan Nkunzimana는 여성이 살해 당하는 영상과 더불어 어린아이가 성적으로 학대 당하는 게시물을 검수 때문에 지켜봐야 했다고 합니다. 자신 외에도 수많은 작업장의 직원들이 때때로 이런 게시물들 때문에 그 자리에서 눈물을 흘리거나 비명을 지르기도 했다고 하고요.. 이곳에서 근무했던 작업자 중 약 200여명이 약 16억 달러의 보상을 요구하며 메타를 상대로 소송을 진행하고 있습니다. Nkunzimana의 인터뷰가 기억에 남아서 번역을 해서 적어봅니다. "페이스북 페이지를 둘러 보고 여기저기 돌아다니면서 전혀 불쾌한 경험이 없었다면 저 같은 사람들이 그 똑같은 스크린의 화면을 보며 검수하고 있기 때문입니다. 주석 작업자들은 전장의 군인과도 같아 페이스북 사용자들을 대신해 각종 해로운 컨텐츠라는 총알을 맞는 셈입니다." "처음에는 공동체를 위해 영웅과도 같은 일을 한다는 자부심이 있었습니다. 하지만 자극적인 영상들에 노출될 때마다 고향의 정치적/인종적 분쟁으로부터 달아났던 과거가 되살아나곤 했습니다. 작업장에는 휴대폰 같은 개인 소지물을 들고 올 수 없었고 일터에서 경험하거나 겪은 일을 외부에 유출해서는 안된다는 비공개 동의서에 서명해야 했습니다." "일이 끝나고 집에 돌아오면 완전히 지쳐버려 침실에 들어가 문을 잠그고 하루 종일 틀어박혀 그 날 본 기억을 잊으려고 노력했습니다. 가족들은 제가 어떤 일터에서 어떤 상황을 겪는지 전혀 상상도 못합니다. 최근에는 아이가 저에게 찾아와 왜 일을 그만뒀냐며, 왜 더이상 일을 하지 않아 학교에 갈 돈을 마련할 수 없는 거냐며 묻기 때문에 질문을 피하려고 방에서 나오지도 않습니다." <2023년 케냐 주석 작업자의 사례> https://www.nbcnewyork.com/news/national-international/facebook-content-moderators-in-kenya-call-the-work-torture-their-lawsuit-may-ripple-worldwide/4463454/?amp=1

책과 기사에서는 메타의 사례가 많이 나오지만 사실 주석 작업자들의 피해는 이미 SNS기업 전반에 퍼진 사회문제로 봐야 합니다. 올해 3월, 케냐에서는 동영상 플랫폼 '틱톡(Tiktok)' 컨텐츠 검수를 담당하던 나이지리아 출신 여직원(Ladi Anzaki Olubunmi)이 자살하는 사고가 벌어지기도 했습니다. 자살 사유나 유서는 아직까지도 확인되지 않았지만 동료들은 Olubunmi가 장기간 고향에 가지 못하고 스트레스를 받아왔다고 말했는데요. 3년 전 케냐로 이주한 후 고향에 방문한 건 딱 한 번 뿐이었다고 합니다. 케냐의 외주업체 Teleperformance Kenya에서 일하는 주석 작업자 중 약 100여명 이상이 나이지리아 출신이지만 이들은 외국인 취업 허가증을 발급 받지 못했다고 해요. 이로 인해 회사에서 연1회 복지 차원에서 제공하는 항공권 티켓을 받아도 고향에 갈 수 없는 경우가 대부분이랍니다. Olubunmi의 가족은 그녀의 시신을 고향으로 이송할 재정적 여력이 없기에 케냐 나이로비 현지의 수도원에서 장례를 치룰 것을 부탁했다고 합니다. https://apnews.com/article/kenya-content-moderators-facebook-tik-tok-aa8cd8bd993c38d4701a64cfb7cd8ee6

어제 책을 펼치고 단숨에 2장까지 읽었어요. AI 기술이나 주가, 이익보다 더 중요한 그 뒤에서 일하는 사람들에 대한 이야기에 오늘 내가 무심코 사용한 어플리케이션이나, 피드, 숏폼, 코파일럿까지 다시 한번 보게 되네요. 언젠가 새벽배송은 그냥 새벽에 택배가 와 있는 것이 아니라 밤새 일한 수많은 사람들이 문 너머에 있다는 글을 본 적이 있는데 AI 도 마찬가지인 것 같아요. 아직도 여전히 데이터 주석작업은 수많은 노동력을 필요로 하는데 우리가 편하게 누린 많은 것들이 다 그분들 덕분인 건지 희생인건지 생각하게 되네요. 늘 하는 생각이죠. 그럼에도 불구하고 이런 일자리가 생겨서 다행인 것인지 그렇다고 해도 좀더 인간적인 환경에서 일하며 삶의 질이 향상 될 수 있도록 글로벌 거대 기업들이 책임감을 느껴야 하는 것은 당연하겠죠. AI는 수많은 데이터를 빨아들여 통계적 예측치로 변환하는 추출기계일 뿐 두려워하지 말고 잘 활용하면서 관련 기술을 가진 기업들을 잘 감시하고 통제하는 것도 저희 사용자의 역할인 것 같습니다.