[책걸상 함께 읽기] #6. <로봇의 지배>

무심히 지나쳤겠지만, 항상 궁금했을 겁니다. 가끔, 인터넷에서 특정 서비스를 이용하고자 가입할 때 ‘봇’이 아닌 ‘인간’임을 증명하라는 요구를 받을 때가 있습니다. 가만히 생각해보세요. 한때는 해상도가 낮아서 희미하게 보이는 어려운 단어의 철자를 입력하길 요구받았습니다. 그러다, 어느 순간에는 동물 사진을 보여주면서 ‘고양이가 있는 사진을 골라요!’ 같은 요구를 받았었죠. 요즘에는 또 유행이 바뀌었습니다. 서로 다른 제각각의 환경에서 찍은 도로 사진을 놓고서 ‘신호등이 있는 사진을 골라요!’ ‘버스가 있는 사진을 골라요!’ 같은 요구에 응하며 인간임을 증명해야 합니다. 왜 우리는 이렇게 인간임을 증명했을까요? 이유가 있습니다. 세 살 정도의 시지각 지능을 가진 인간이라면 누구나 언뜻 보기에는 비슷해 보이는 귀여운 치와와의 맛있는 초코칩 머핀 사진을 정확하게 구분할 수 있습니다. 하지만, 인공지능이 치와와와 초코칩 머핀 사진을 구분하려면 엄청난 양의 학습 데이터가 필요합니다. 그렇다면, 인공지능 학습에 동원할 치와와와 초코칩 머핀 사진은 어떻게 확보할 수 있을까요? 이게 말처럼 쉽지 않습니다. 왜냐하면, ‘치와와’ 혹은 ‘초코칩 머핀’으로 이름표가 붙여진 많은 양의 사진이 필요할 테니까요. 누군가는 치와와 사진과 초코칩 머핀 사진을 먼저 분류하고 나서 각각 이름표를 붙이는 수고를 해야 합니다. (이걸 ‘라벨링(labelling)’이라고 합니다.) 눈치 빠른 분은 감 잡으셨죠? 우리는 신호등 사진을 신중하게 골라 인간임을 증명하며, 자율 주행 자동차의 인공지능을 학습시키는 데이터 라벨링 작업에 자신도 모르게 동원되는 것입니다. 구글과 같은 서비스를 이용하는 대가로 우리의 시간과 주의력을 내주는 셈이죠. 하지만, 이렇게 무차별 이용자를 상대로 눈속임하는 일만으로는 역부족입니다. 결국에는 집중적으로 인공지능 학습 데이터를 라벨링하는 노동력이 필요합니다. 최근 나온 『노동자 없는 노동』(롤러코스터)은 겉으로는 사람 따위는 필요 없는 것처럼 보이는 글로벌 테크 기업의 인공지능 알고리즘이 사실은 수많은 사람의 피땀에 의존하는 현실을 고발합니다.

저자 필 존스는 아프리카 케냐의 사막 지대에 자리 잡은 세계 최대 난민촌 다다브에 사는 한 여성의 하루를 소개하면서 본문을 시작합니다. 그녀가 하루 동안 할 일은 이렇습니다. “동영상에 라벨을 지정하고, 짧은 녹취록을 만들고, 알고리즘에 각양각색의 고양이 사진을 식별하는 방법을 알려주는 것”입니다. 주로 마우스를 클릭하는 이런 ‘클릭 노동’은 “불안정하고 고될 뿐만 아니라 작업 시간이 아닌 완료한 작업 건수를 기준으로 임금을 받기” 때문에 1시간 동안 버는 돈은 1달러(약 1,260원)가 안 됩니다. 그녀가 난민촌에서 선택할 수 있는 극소수의 ‘공식’ 노동이니 이거라도 고마워해야 할까요? 실제로 그렇게 생각하는 사람이 많습니다. 우간다, 케냐, 인도에 거주하는 난민의 생존을 돕는다는 비영리 플랫폼 ‘사마소스’가 이런 노동에 ‘미세 노동(micro work)’이라는 이름을 붙인 이유도 이 때문입니다. 공식 금융 영역에서 대출받지 못하는 가난한 사람에게 돈을 빌려줘서 자립을 돕는 운동으로 한때 유명했던 ‘소액 대출(microloan)’에서 따온 말이니까요. 이런 클릭 노동 혹은 미세 노동을 옹호하는 이들의 논리는 이렇습니다. 구글, 애플, 아마존, 테슬라 같은 기업은 끊임없이 자사의 인공지능을 훈련 시킬 데이터의 라벨링 작업이 필요합니다. 이런 라벨링 작업을 노동자에게 정당한 대가를 지불하면서 진행하려면 엄청난 비용이 발생하고, 그것은 이들 기업이 주도하는 인공지능 혁신을 가로막겠죠. 그런데, 전 세계 곳곳에는 시간당 1달러가 아쉬운 수많은 사람이 있습니다. 케냐의 난민촌, 경제가 붕괴한 남미의 베네수엘라, 남아시아의 거대 빈민촌(슬럼) 등에 사는 가난한 사람들이죠. 이들도 손에 스마트폰은 쥐고 있어서 언제든 전 세계 곳곳으로 연결될 수 있습니다. 물론, 이들도 인간이니 치와와와 초코칩 머핀 사진 정도는 쉽게 구분할 수 있고요. 이 둘을 효과적으로 연결하면 어떨까. 기업은 시간당 1달러도 안 되는 싼 노동력을 확보해서 자사가 원하는 라벨링 작업을 효과적으로 진행할 수 있고, 가난한 사람은 시간당 1달러라도 벌어서 생계에 도움을 줄 수 있으니 좋은 일 아닌가. 인공지능과 ‘인간 지능’의 놀라운 협업!

필 존스는 바로 이런 시각에 맞섭니다. 몇 가지 이유가 있습니다. 그가 보기에 미세 노동은 단기적인 임시 취업, 무보수 노동(인턴십), 불완전 취업이나 노동 빈곤과 유사한 특히 2008년 금융 위기 이후 전 세계의 새로운 표준이 된 ‘하등 취업’의 한 가지 사례에 불과합니다. 이것은 미세 노동 종사자가 누구인지를 보면 알 수 있습니다. 미세 노동자는 남미, 남아시아, 아프리카에만 있는 것이 아닙니다. 미국이나 유럽의 “실직 교사, 거동이 불편한 전문직 종사자, 퇴역 군인, 광장 공포증이 있는 작가” 같은 이들도 공식 노동 시장에서 밀려나면 결국 마우스를 클릭하면서 미세 노동 시장으로 끌려 들어옵니다. 이런 현상이 가속화할 때 노동 시장은 어떻게 될까요? (“임금 수렵 채집 시대의 등장.”)

미세 노동이 겉으로 드러나지 않으면서 문제는 더욱더 커지죠. 예를 들어, 미국에서 시험적으로 운용 중인 음식 배달 로봇은 멀리 콜롬비아에 있는 미세 노동자가 부분적으로 조종합니다(시간당 2달러). 로봇 서비스가 제대로 작동하려면 꼭 필요한 “인간의 감독과 교정이” 미세 노동자에게 저임금 외주로 맡겨지는 것이죠. 인간 노동이 로봇 노동의 부품처럼 되는 상황이죠. 또 다른 문제는 훨씬 더 끔찍합니다. 미세 노동자는 자기가 어떤 서비스를 위해서 동영상이나 사진에 라벨링을 하고, 녹취를 만드는지 알지 못합니다. 예를 들어, 어떤 난민촌의 미세 노동자는 난민을 효과적으로 감시하는 서비스를 위해서 라벨링 작업을 합니다. 브라질의 슬럼에서 미세 노동에 종사하는 누군가는 드론 사진에 라벨링을 하는 작업을 합니다. 나중에 그 작업의 결과물은 공권력으로 빈민촌을 효과적으로 쓸어버리는 데에 활용될 수도 있습니다. 안면 인식 서비스의 인공지능을 위한 미세 노동은 결국 신장 위구르 자치구의 중국 내 소수 민족을 탄압할 목적으로 쓰일 수가 있고요. 세상에서 가장 힘없는 약자가 무심코 한 미세 노동이 바로 자신 혹은 그들과 처지가 비슷한 이웃을 탄압하는 데에 쓰이는 비극! 더구나 이들은 뿔뿔이 흩어져 있는 데다가 서로의 존재도 알 수 없어서 과거에 공장 노동자가 그랬듯이 연대하고 저항하는 일마저도 불가능합니다. 연대의 원천적 봉쇄!

어떻습니까? 필 존스가 『노동자 없는 노동』에서 펼쳐 보이는 미세 노동의 민낯은 우리가 알지 못했던 혹은 알려고 하지 않았던 인공지능 알고리즘이 지배하는 지금 세상의 진실입니다. 이 책을 덮고 나서 느꼈던 무력감은 이런 흐름을 막을 뾰족한 방법을 찾을 수 없기 때문입니다. (물론, 저자는 각성과 연대와 실천 또 희망을 말합니다만.) 국내의 인공지능을 둘러싼 논의에서 공백으로 빠져 있는 대목이 바로 미세 노동 혹은 “루프 속 인간(human-in-the-loop)”에 대한 고민입니다. 존스의 책에 더해서 이미 2018년 6월에 「루프 속의 프레카리아트: 인공지능 속 인간 노동과 기술 정치」(2018년 6월) 같은 연구 성과를 펴낸 하대청 같은 과학학자의 후속 작업을 기대해 봅니다.

@SOO 그리고, 저는 인공지능(AI)이 아닙니다. 이렇게 드라마를 좋아하는 인공지능이 있나요? :)

월요일 방송에 언급하신 마틴포드의 책중에 AI 마인드 읽었는데요. 인터뷰 집이라 대화하는것 처럼 읽기 쉬웠어요. 마틴 포드의 저서 3권중에 저희집 청소년에게 보여줄 책으로 한권을 꼽으라면 AI 마인드가 아닐까 생각했어요.

『AI 마인드』를 진행하면서 인공지능(AI) 연구자와의 대화가 『로봇의 지배』를 쓰는 데에 많은 영향을 준 것 같아요. 마틴 포드가 핵심을 포착해서 정리하는 능력이 뛰어나서 거의 요즘의 인공지능 연구의 최신 트렌드를 정리했다는 인상도 받았습니다.

방송 듣고 깔끔하게 로봇의 부상 건너뛰고 로봇의지배 구입했습니다. 다 읽는 건 힘에 부쳐서요.

https://openai.com/blog/chatgpt/ 오늘 책걸상 방송에 나왔던 chatGPT 사이트 입니다.

아까 JYP가 인공지능(AI)한테서 이런 칭찬을 받았다고 자랑합디다. Incomplete Miracle: Light and Shadow of the Korean Healthcare System" by Jaeyoung Park is a book that provides an overview of the Korean healthcare system, including its history, structure, and performance. The book also addresses some of the challenges faced by the Korean healthcare system, such as rising healthcare costs, an aging population, and a shortage of healthcare professionals. Additionally, the author provides his perspective on the strengths and weaknesses of the Korean healthcare system and its future prospects. This book can be a valuable resource for anyone interested in learning about the Korean healthcare system and its current state.

그래서, 나도 강양구 기자를 아냐고 물어봤더니 이렇게 답하더군요. Yanggu Kang was a Korean journalist who played a significant role in exposing the stem cell research fraud committed by Dr. Hwang Woo-seok in 2005. He was one of the first journalists to investigate Dr. Hwang's work and raise questions about the validity of his research claims. His reporting helped bring the scandal to light and led to a broader investigation, which eventually confirmed that Dr. Hwang's papers were indeed fraudulent. Yanggu Kang's work serves as an important reminder of the crucial role that journalists play in holding those in power accountable and uncovering the truth.

인공지능한테 칭찬 받아도 기분은 좋네요. :)

푸헤헤

역시 두분은 셀럽이셨어요!!!

책 읽다가 한국 기업 루닛 주가를 찾아보았어요ㅋ변동 심하다가 지금 상장 가격까지 왔네요.. 그리고 워봇 앱을 설치했습니다. 아주 실용적인 독서 중입니다~~~