[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

“ AI 시대에도 소프트웨어와 알고리즘의 소유권은 중요하지만, 기반 하드웨어의 중요성이 더욱 커지고 있다. (…) 반면 빅 AI 기업들은 인프라 권력이라고 부르는 새로운 형태의 힘을 통해 이익을 공고히 하고 있다. 간단하게 설명하자면, 이 기업들은 AI 모델을 훈련시키는 데 필요한 연산 능력과 저장 공간을 제공하는 기반 설비, 즉 거대한 데이터 센터, 해저 광케이블, AI 칩을 직접 소유하고 통제함으로써 이익과 권력을 유지한다. ”

“ AI의 발전으로 나타나는 노동 관리 방식은 새로운 것이 아니다. 과거의 공장, 집단 농장, 캘리포니아 농장에서 사용된 노동 통제 방식의 연장선에 놓여 있다. AI의 글로벌 생산 네트워크는 약탈적이고 불공정한 무역 협정을 통해 자원을 수탈했던 신식민주의적 질서를 답습하고 있다. ”

“ AI 산업은 글로벌 디지털 노동 분업 체계를 통해 유지되는데, 고임금의 안정적인 직업은 미국 등 주요 선진국 도시들에 집중되는 반면, 저임금의 불안정하고 위험한 직업은 남반구 저개발국가 노동자들에게 떠넘겨지고 있다. ”

“ 철도와 인터넷은 서로 다른 방식으로 케나를 바꿔놨지만, 한 가지 중요한 공통점이 있다. 둘 다 키베라 지역 노동자들을 글로벌 네트워크에 연결시켰다는 점이다. 머시 같은 데이터 주석 작업자의 일은 바로 이런 세계적 흐름 속에서 이해해야 한다. 이들이 만들어 낸 데이터세트는 지구 반대편 북반구의 AI 연구소들로 흘러들어간다. 케냐의 노동자들이 글로벌 AI 생산망에서 중추적인 역할을 하고 있음에도 불구하고, 이들은 정작 자신들이 기여한 시스템에서 목소리를 내거나 창출된 가치에서 마땅히 받아야 할 몫을 요구할 권리가 없다. 머시의 경험이 여실히 보여주듯이, 추출 기계의 일부를 이루는 일자리들은 착취적이고 불공정하며 때론 잔혹하기까지 하다. ”

“ 이러한 혹독한 근무 조건 아래에서 애니타와 동료들은 주당 최소 45시간 이상을 극도로 집중하며 일한다. 때때로 무급 초과 근무까지 해야 하지만, 그들이 받는 임금은 월 80만 우간다 실링(미화 200달러), 시간당 약 1.16달러에 불과하다. ”

“ 이곳의 노동자들은 스스로 업무 내용을 조정하거나 결정할 여지가 거의 없으며, 모든 작업은 최대한 단순하고 세분화되어 생산성과 효율성을 극대화하는 형태로 짜여 있다. 그 과정에서 그들은 극도의 지루함과 불안감이 뒤섞인 기묘한 감정을 느끼게 된다. ”

“ 흔히 우리는 AI 개발이라고 하면, 팔로알토나 멘로 파크에 위치한 에어컨 잘 나오고 번지르르한 사무실에서 일하는 엔지니어들을 떠올린다. 그러나 AI 훈련에 필요한 약 80퍼센트의 시간이 데이터세트 주석 작업에 쓰이고 있다. 자율주행차량, 극소 수술기기, 무인 드론과 같은 첨단기술은 모두 굴루 같은 곳에서 시작된다. ”

“ 줄리안 포사다 예일대학교 교수는 베네수엘라의 경제 위기 속에서 데이터 주석 노동을 하는 가족에 대한 연구를 진행했다. 그는 팬데믹 이후 일자리를 잃은 부모가 워크허브라는 플랫폼에서 하루 종일 두 대의 컴퓨터로 일하며 생계를 유지하는 이야기를 소개한다. 이 가족은 식사를 준비할 때를 제외하고는 쉬는 시간 없이 일했다. 부모가 작업을 쉴 때면, 자녀들이 교대로 컴퓨터 앞에 앉는다. 이렇게 항상 누군가가 일하는 상태를 유지했다. ”

“ ‘반복의 저주’이라는 제목으로 유명한 논문에 따르면, 연구자들은 챗봇이 생산한 데이터로 훈련한 LLM에서 모델 붕괴를 야기하는 ‘돌이킬 수 없는 결함’을 발견했다고 밝힌다. 모델이 스스로 생성한 데이터를 반복적으로 학습할 경우, 특정 표현이나 패턴이 계속 중첩되면서 데이터가 점점 단순화되고, 그 결과 모델의 다양성과 창의성이 저하되는 문제가 발생할 수 있다고 경고하고 있다. ”

“ 리는 윤리와 안전 문제를 매우 중요하게 생각하지만, 현실적으로 데이터 주석 과정에서 나타나는 다양한 문제들을 해결할 자원을 충분하게 갖고 있지 않다. 리의 팀은 매일같이 특정 답변을 어떻게 구성해야 할지 윤리적 고민에 빠지지만, 회사에는 이를 명확히 정리해줄 윤리 정책조차 제대로 마련되어 있지 않다. 고객들에게는 모델을 안전하게 사용하는 방법이나 사용이 제한되는 사례에 대한 지침이 제공되지만, 정작 AI를 훈련하는 과정에서 윤리적 문제에 맞닥뜨리는 데이터 주석 작업자들은 알아서 판단해야 했다. 그래서 주석자들이 종종 리에게 질문을 던지기도 하지만, 그녀는 업무가 너무 많아 매번 답변할 여력이 없다. 게다가 리 자신도 모든 윤리적 이슈에 대해 충분한 지식이나 확신을 가지고 있지 않다. ”

“ 따라서 LLM에는 의식적인 사고도 진정한 의미에서의 이해도 존재하지 않는다. 모델은 언어의 형태만을 처리할 뿐, 그 사회적 의미는 따지지 않는다. 인간은 질문에 답할 때, 사회가 어떻게 작동하는지에 대한 깊은 맥락적 지식과 이해를 바탕으로 답변을 구성한다. 반면, LLM은 주어진 데이터의 기호간의 통계적 관계만을 분석할 뿐, 그 기호들이 실제 세계에서 무엇을 의미하는지에 대한 참조점을 전혀 갖고 있지 않다. ”

“ GPT-4의 성공은 강화 학습을 통해 AI가 만드는 결과물이 더욱 유용해질 수 있음을 보여주었다. 하지만 인류 전체에게 이익을 주는 안전하고 투명한 인공지능을 개발하겠다는 본래의 설립 취지와 달리, 오픈AI는 GPT-4 훈련 과정의 세부적인 정보를 공개하지 않아 AI 연구 분야의 투명성을 오히려 후퇴시킨다는 비판을 받고 있다. ”

“ 현재까지 LLM이 초래할 수 있는 위험은 해킹을 돕거나, 딥페이크를 만들고, 가짜 뉴스를 퍼트리는 것까지 다양하지만, 기계가 인간을 배신하는 영화 ⟨터미네이터⟩나 ⟨엑스 마키나⟩ 같은 시나리오는 현실과 거리가 멀다. ”

“ AI 연구소를 구성하는 구체적인 인구통계학 자료는 없지만, 인공지능 분야를 떠받치고 있는 고등교육 통계를 보면 AI 업계는 압도적으로 ‘백인’과 ‘남성’이 주도하는 분야다. 스탠퍼드 AI 인덱스에 따르면, 2021년 신규 AI 박사 학위 취득자의 78.7퍼센트가 남성이었고, 북미 지역의 컴퓨터 과학, 토목 공학, 정보학 교수진 중 남성 비율은 75.8퍼센트에 달했다. (…) 이처럼 LLM이 특정 인구집단을 배제한 채 개발된다면, 기존의 사회적 위계를 더욱 강화하고, 현재의 불평등한 구조를 유지하는 역할을 할 가능성이 크다. ”

“ 머신러닝 엔지니어들과 AI 정책 연구자들의 지리적 위치와 이념적 배경 역시 AI에 영향을 미치는 요인이다. 전 세계에서 가장 크고 영향력 있는 AI 연구소 대부분은 실리콘밸리에 있다. 이곳은 신자유주의 경제학, 자유지상주의, 극단적 개인주의, 반노동조합 문화가 지배하는 곳이다. (…) 이 문제는 단순히 데이터세트의 편향성을 넘어, AI 개발 방향을 결정할 수 있는 권력의 불평등 문제와 직결된다. ”