[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

어제 책을 펼치고 단숨에 2장까지 읽었어요. AI 기술이나 주가, 이익보다 더 중요한 그 뒤에서 일하는 사람들에 대한 이야기에 오늘 내가 무심코 사용한 어플리케이션이나, 피드, 숏폼, 코파일럿까지 다시 한번 보게 되네요. 언젠가 새벽배송은 그냥 새벽에 택배가 와 있는 것이 아니라 밤새 일한 수많은 사람들이 문 너머에 있다는 글을 본 적이 있는데 AI 도 마찬가지인 것 같아요. 아직도 여전히 데이터 주석작업은 수많은 노동력을 필요로 하는데 우리가 편하게 누린 많은 것들이 다 그분들 덕분인 건지 희생인건지 생각하게 되네요. 늘 하는 생각이죠. 그럼에도 불구하고 이런 일자리가 생겨서 다행인 것인지 그렇다고 해도 좀더 인간적인 환경에서 일하며 삶의 질이 향상 될 수 있도록 글로벌 거대 기업들이 책임감을 느껴야 하는 것은 당연하겠죠. AI는 수많은 데이터를 빨아들여 통계적 예측치로 변환하는 추출기계일 뿐 두려워하지 말고 잘 활용하면서 관련 기술을 가진 기업들을 잘 감시하고 통제하는 것도 저희 사용자의 역할인 것 같습니다.

AI도 그렇고 결국 많은 서비스와 상품들의 이면을 소비자가 볼 수 없다는 점이 문제의 핵심 같네요. 소비자의 입장에서는 어떤 제품이나 서비스가 만들어지기까지, 가치가 부여되기까지 전체 연결고리를 들여다 볼 방법이 없죠. 기업은 정보의 비대칭성을 이용해 '가격과 품질'이라는 표면적인 형태만 잘 다듬어 시장에 출시하고 과정을 은폐하거나 축소하면 되고요. 소비자가 기업의 모든 과정을 들여다 보기도 힘들고, 현실적으로 그럴 여유나 가능성은 희박하기에 결국 기업의 의사결정 과정에서 주주와 경영진만이 아닌 보다 다양한 이해관계자들이 개입할 수 있도록 장치가 마련되어야 한다고 생각해요. 회사의 절대 다수를 구성하는 노동자와 근로자들, 기업의 결과물을 이용하는 고객, 기업이 사업을 영위하는 근거지의 공동체까지 말이죠. 결과를 바꿀 수 없다면, 최소한 결과를 만들기 위한 의사결정 과정에서 권력의 비대칭과 불균형을 해소해야 고통과 책임을 떠안는 희생자들이 줄어들 수 있다고 생각합니다.

인공지능이 먹은 인간은 우리 눈에 보이지 않습니다 인공지능은 더 이상 미래의 기술이 아닙니다. 우리는 이미 검색, 번역, 배달, 금융 서비스 같은 수많은 일상에서 AI의 도움을 받고 있습니다. 그러나 AI의 편리함이 커질수록 오히려 더 작아지는 존재가 있습니다. 바로 AI 뒤에서 보이지 않는 노동을 수행하는 사람들, 우리가 기술의 표면만 보느라 놓치고 있는 '가려진 인간'들입니다. <AI는 인간을 먹고 자란다>는 AI 산업의 반짝이는 겉면 뒤에 숨어 있는 이 노동의 실체를 집요하게 추적합니다. 저자들은 AI를 '추출 기계'라 부릅니다. 인간의 지식, 감정, 창의성, 육체적 노동까지 흡수해 데이터라는 연료를 만들어내고, 이를 다시 자본과 권력으로 바꾸는 기계라는 뜻입니다. 우리가 떠올리는 실리콘밸리의 혁신은 사실 이 기계가 돌기 위한 화려한 전면부일뿐, 그 뒤편에는 하루 종일 모니터 앞에서 사물에 라벨을 붙이고, 음성을 전사하고, 콘텐츠를 걸러내는 수백만의 노동자가 존재합니다. AI 훈련 시간의 80%가 데이터 주석 작업에 쓰인다는 사실은 이 산업의 본질을 단적으로 보여줍니다. 그러나 이 노동자들은 뉴스에도, 기업의 홍보에도 등장하지 않습니다. 존재하지만 보이지 않는 인간들, 혹은 '인간 취급을 받지 못하는 존재'로 밀려난 사람들입니다. 이 지점에서 조지프 콘래드의 <어둠의 심연>이 떠오릅니다. 작중 주인공 말로가 콩고강에서 처음 마주한 원주민들을 '문명 이전의 존재'로 간주하던 서구의 시선은 가까이 다가설수록 무너집니다. 그들도 인간이며 욕망과 감정과 존엄을 가진 존재라는 사실을 깨닫는 순간, 말로는 충격을 받습니다. 식민주의의 핵심은 인간을 인간으로 보지 않는 데서 출발합니다. 그렇기 때문에 그들의 노동과 땅과 생명은 얼마든지 착취 가능한 것으로 간주됩니다. AI 산업의 구조 또한 이와 놀랍도록 닮아 있습니다. 기술의 편리함 뒤에서 발생하는 고된 노동은 '기술의 자연스러운 과정' 또는 '부차적인 비용'으로 취급됩니다. 인간이 개별적인 주체로 보이지 않으면, 그들의 시간과 고통 역시 쉽게 삭제됩니다. 식민주의가 한때 그랬듯이 말입니다. '가려진 인간'이 인공지능 뒤에 있다는 걸 알아차린다면 기술 발전의 놀라움 대신 커다란 충격으로 다가올 것 같습니다.

의견 감사합니다. @RAMO 님께서 말씀하신대로, 또 저자들의 지적처럼 현재 AI산업은 과거의 산업발전의 역사에서 반복되어 온 문제의 근원을 똑같이 답습하고 있죠. 결국 일부 기업가나 자본가가 주도하는 산업의 흐름 속에 개인을 강요하여 몰아넣는 점, 시스템이 사회를 위해 존재하는 것이 아닌 사회가 시스템을 위해 맞춰가야 한다는 점이 제일 문제라고 생각합니다. AI산업이 이전의 경제 변화의 흐름들과 다른 점은 실체보다 그 실체를 둘러싼 '환상'이 더 영향력이 있다는 점, 그리고 그 환상들이 겹겹이 쌓여 AI산업을 더 불투명하게 만들고 있다는 점일 겁니다. 산업혁명 시대나 컨베이어 벨트를 통한 대량 자동생산이 가능해진 생산혁신 시기에도 산업에 가려지는 노동자들이 있었지만, 최소한 그때는 유형의 결과물이 존재했고 산업에 종사하던 노동자들이 함께 부대끼며 살았죠.(비록 사회는 그들을 무시했지만요) 하지만 '글로벌 공급망' 또는 '유연한 고용구조'라는 이름으로 해외 아웃소싱이 증가하면서 산업의 기반이 되는 계층들의 존재감마저 외주화 되고 있죠. 고용구조는 점점 비용절감이라는 명목으로 단기계약직, 하청, 파견직이 늘어나 노동자/근로자간 연대와 공감을 어렵게 만들고 있고요. 그에 비해 AI산업은 AI자체적인 무형의 특성, 그것이 가져다 줄 '불분명한 미래에 대한 약속', 일부 혁신적 기업가들에 대한 신화라는 환상들이 재생산되고 있습니다. 그리고 언론들은 이런 방향성 위주로만 조명하고 있죠. 그 결과 우린 주석노동자들의 고충도, 그들의 헌신과 기여도 제대로 알 수 없게 되었습니다. 생성형AI는 최소 억단위 이상의 매개변수를 통해 결과를 도출하지만 그 과정과 결과의 흐름을 인간이 분석하고 파악할 수 없는 불투명성이 있죠. AI만큼이나 AI산업 그 자체도 공급망이나 가치사슬, 고용구조 전반에 걸쳐 불투명성이 실체를 가리고 있다는 점이 문제라고 생각되네요.

2) 주석 작업자들은 언제든지 대체될 수 있다는 불안감, 발전하고 커리어 래더를 밟을 수 있는 일인 지에 대한 의구심이 무엇보다 힘든 이유라고 생각해요. 보통 일이라는 것은 보상과 재미, 그리고 일의 의미 이 세가지가 필요하다고 하는데 주석 작업자들을 대하는 기업들의 태도를 보면 이 세가지가 모두 결여된 것 같네요. 3) ai는 주어진 데이터를 통계로 접근한다는 점에서 목소리가 큰 집단, 온라인 데이타를 잘 만들어내는 집단에 악용될 가능성이 가장 위험한 점이라고 생각해요. 책에서 나온 디지털 우생학이라는 현상과도 비슷하고 온라인과 거리가 먼 집단의 소수 의견은 점점 더 배제될 것 같네요.