[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

인공지능이 먹은 인간은 우리 눈에 보이지 않습니다 인공지능은 더 이상 미래의 기술이 아닙니다. 우리는 이미 검색, 번역, 배달, 금융 서비스 같은 수많은 일상에서 AI의 도움을 받고 있습니다. 그러나 AI의 편리함이 커질수록 오히려 더 작아지는 존재가 있습니다. 바로 AI 뒤에서 보이지 않는 노동을 수행하는 사람들, 우리가 기술의 표면만 보느라 놓치고 있는 '가려진 인간'들입니다. <AI는 인간을 먹고 자란다>는 AI 산업의 반짝이는 겉면 뒤에 숨어 있는 이 노동의 실체를 집요하게 추적합니다. 저자들은 AI를 '추출 기계'라 부릅니다. 인간의 지식, 감정, 창의성, 육체적 노동까지 흡수해 데이터라는 연료를 만들어내고, 이를 다시 자본과 권력으로 바꾸는 기계라는 뜻입니다. 우리가 떠올리는 실리콘밸리의 혁신은 사실 이 기계가 돌기 위한 화려한 전면부일뿐, 그 뒤편에는 하루 종일 모니터 앞에서 사물에 라벨을 붙이고, 음성을 전사하고, 콘텐츠를 걸러내는 수백만의 노동자가 존재합니다. AI 훈련 시간의 80%가 데이터 주석 작업에 쓰인다는 사실은 이 산업의 본질을 단적으로 보여줍니다. 그러나 이 노동자들은 뉴스에도, 기업의 홍보에도 등장하지 않습니다. 존재하지만 보이지 않는 인간들, 혹은 '인간 취급을 받지 못하는 존재'로 밀려난 사람들입니다. 이 지점에서 조지프 콘래드의 <어둠의 심연>이 떠오릅니다. 작중 주인공 말로가 콩고강에서 처음 마주한 원주민들을 '문명 이전의 존재'로 간주하던 서구의 시선은 가까이 다가설수록 무너집니다. 그들도 인간이며 욕망과 감정과 존엄을 가진 존재라는 사실을 깨닫는 순간, 말로는 충격을 받습니다. 식민주의의 핵심은 인간을 인간으로 보지 않는 데서 출발합니다. 그렇기 때문에 그들의 노동과 땅과 생명은 얼마든지 착취 가능한 것으로 간주됩니다. AI 산업의 구조 또한 이와 놀랍도록 닮아 있습니다. 기술의 편리함 뒤에서 발생하는 고된 노동은 '기술의 자연스러운 과정' 또는 '부차적인 비용'으로 취급됩니다. 인간이 개별적인 주체로 보이지 않으면, 그들의 시간과 고통 역시 쉽게 삭제됩니다. 식민주의가 한때 그랬듯이 말입니다. '가려진 인간'이 인공지능 뒤에 있다는 걸 알아차린다면 기술 발전의 놀라움 대신 커다란 충격으로 다가올 것 같습니다.

의견 감사합니다. @RAMO 님께서 말씀하신대로, 또 저자들의 지적처럼 현재 AI산업은 과거의 산업발전의 역사에서 반복되어 온 문제의 근원을 똑같이 답습하고 있죠. 결국 일부 기업가나 자본가가 주도하는 산업의 흐름 속에 개인을 강요하여 몰아넣는 점, 시스템이 사회를 위해 존재하는 것이 아닌 사회가 시스템을 위해 맞춰가야 한다는 점이 제일 문제라고 생각합니다. AI산업이 이전의 경제 변화의 흐름들과 다른 점은 실체보다 그 실체를 둘러싼 '환상'이 더 영향력이 있다는 점, 그리고 그 환상들이 겹겹이 쌓여 AI산업을 더 불투명하게 만들고 있다는 점일 겁니다. 산업혁명 시대나 컨베이어 벨트를 통한 대량 자동생산이 가능해진 생산혁신 시기에도 산업에 가려지는 노동자들이 있었지만, 최소한 그때는 유형의 결과물이 존재했고 산업에 종사하던 노동자들이 함께 부대끼며 살았죠.(비록 사회는 그들을 무시했지만요) 하지만 '글로벌 공급망' 또는 '유연한 고용구조'라는 이름으로 해외 아웃소싱이 증가하면서 산업의 기반이 되는 계층들의 존재감마저 외주화 되고 있죠. 고용구조는 점점 비용절감이라는 명목으로 단기계약직, 하청, 파견직이 늘어나 노동자/근로자간 연대와 공감을 어렵게 만들고 있고요. 그에 비해 AI산업은 AI자체적인 무형의 특성, 그것이 가져다 줄 '불분명한 미래에 대한 약속', 일부 혁신적 기업가들에 대한 신화라는 환상들이 재생산되고 있습니다. 그리고 언론들은 이런 방향성 위주로만 조명하고 있죠. 그 결과 우린 주석노동자들의 고충도, 그들의 헌신과 기여도 제대로 알 수 없게 되었습니다. 생성형AI는 최소 억단위 이상의 매개변수를 통해 결과를 도출하지만 그 과정과 결과의 흐름을 인간이 분석하고 파악할 수 없는 불투명성이 있죠. AI만큼이나 AI산업 그 자체도 공급망이나 가치사슬, 고용구조 전반에 걸쳐 불투명성이 실체를 가리고 있다는 점이 문제라고 생각되네요.

2) 주석 작업자들은 언제든지 대체될 수 있다는 불안감, 발전하고 커리어 래더를 밟을 수 있는 일인 지에 대한 의구심이 무엇보다 힘든 이유라고 생각해요. 보통 일이라는 것은 보상과 재미, 그리고 일의 의미 이 세가지가 필요하다고 하는데 주석 작업자들을 대하는 기업들의 태도를 보면 이 세가지가 모두 결여된 것 같네요. 3) ai는 주어진 데이터를 통계로 접근한다는 점에서 목소리가 큰 집단, 온라인 데이타를 잘 만들어내는 집단에 악용될 가능성이 가장 위험한 점이라고 생각해요. 책에서 나온 디지털 우생학이라는 현상과도 비슷하고 온라인과 거리가 먼 집단의 소수 의견은 점점 더 배제될 것 같네요.

우리가 생각하는 것 이상으로 AI는 유형의 물질과 환경기반에 매우 큰 영향을 받고 있다는 점을 알 수 있었습니다. 또한 그로 인해 향후 테크 기업들이 오히려 소프트웨어라는 무형의 가치보다 지리와 기후적 여건, 환경, 우수인재 분포 국가 같은 지정학적 요인을 둘러싼 경쟁이 심화될 것이라는 예측도 할 수 있죠. 현재 미중간 패권경쟁의 다양한 현상들 중 AI산업이 왜 경쟁의 한 축이 될 수밖에 없는지도 이해가 갔습니다.