[시작-이륙] 3. 10년 후 세계사 두번째 미래

26쪽, [단 몇 센티미터라도 가까이 있는 스마트폰이 일감을 따낼 가능성이 높기 때문에 기사들은 휴대폰 한 대를 매장 주변의 나무에 놓아두고 다른 휴대폰으로는 ‘콜’을 기다린다. (...) 이 구조에 갇힌 기사들은 알고리즘을 상사로 모시며 지시와 요구 조건을 따르는 수밖에 없다.] 살벌하고 약간은 소름이 끼치는군요. 알고리즘신이 정해준 룰 앞에서 처절하게 경쟁하는 인간들이여.

27쪽, [당신이 알렉사에게 음성인식으로 뭔가 요구를 하면 당신의 목소리는 인도 첸나이에 사는 한 남성에게 전달된다. 그는 당신의 목소리를 녹음해 단어와 숙어를 카테고리별로 분류하고, 여기에 알렉사가 응답한 내용이 적절한지를 평가한다.] 적나라한 프로세스가 조금은 충격이네요. 사실 인공지능의 '역할'이라고 불리는 표면적 기능을 한꺼풀 벗겨내고 나면 저렇게 사람들이 실제로 무언가를 행해야 하는 경우가 많은 것 같습니다.

저도 인공지능이 CCTV에 찍힌 자동차들이 '자동차라는 것'을 인식하는 기능을 향상시키기 위해서, CCTV에 캡쳐된 화면 속에 수많은 자동차들의 형체를 마우스로 일일이 영역을 정해주는 작업을 한 적이 있습니다. 클릭, 클릭, 클릭.. 네모로 영역 설정. 그다음 자동차는 어디있더라.. 화면 하나에 수십대의 자동차를 영역설정 해줘야 했습니다. 일명 '데이터 라벨링'이라는 알바였는데요. 수십수백 장을 그런식으로 하다보니 눈이 빠지는 줄 알았습니다. 한국판 첸나이였죠.

36쪽, [사람은 사라졌지만 일은 없어지지 않고, 누군가는 그 일을 해야 한다. (...) 기업이 비용절감을 위해 직원을 줄이면서 생긴 빈자리의 일부는 아웃소싱 업체에 고용된 고스트워커의 몫이 되었고, 일부는 소비자의 몫이 되었다.] 소비자가 기업의 일을 대신 해주는데도 가격은 동일하게 받는다면 뭔가 이상한거 아닌가요? 생각해보니 킹받네요. 이제 패스트푸드점에서 키오스크를 사용하는 것은 꽤나 일상적이 된 것 같긴 한데 나이드신 분들이 이용하기 참 힘들 것 같다는 생각도 합니다. 기존 용역의 역할 전가에도 불변하는 가격, 기술에 소외되는 노인계층.. 두 가지 측면을 생각 해보게 됩니다.

46쪽, [지금은 황당한 얘기처럼 들리겠지만 레이 커즈와일은 《특이점이 온다》에서 기계와 인간의 구분이 점점 사라지는 '버전 2.0 인체', '버전 3.0 인체'를 상상한다.] 제가 한 때 몸담았던 SF 읽기 모임에서는 이 레이 커즈와일의 주장에 동조하는 사람들과 그렇지 않은 사람들의 토론이 몇 번 있었습니다. 그의 주장은 '트랜스휴머니즘'이라는 사조로 정리되는 것 같습니다. 한번쯤 들어보신 단어일지도 모르겠습니다만. 저는 물론 찬트랜스였습니다.

53쪽, [칼럼에 이어지는 《가디언》 측의 미국 인공지능 연구회사 오픈 AI가 만든 GPT-3가 스스로 이 글을 작성했다.] 이 칼럼 읽으시고 난 뒤에 이게 AI가 작성한 글이란 것에 놀라신 분 계시나요? 조금은 뻥같은 느낌도 들것 같은데요. 저는 오픈AI 웹사이트에 접속해서 실제로 GPT-3를 사용해서 글을 출력해 본 적이 있습니다. 유저가 몇 가지 문장을 인풋으로 제시하면 GPT-3가 단편소설을 아웃풋으로 쏟아내는데요. 그 내용들이 마치 인간이 쓴 것같아서, 정말 신기해서 팔짝 뛸 노릇이더군요. 제가 "조용하고 어두운 밤이었다. 나는 농장에 있는 으스스한 집에 홀로 들어갔다." 라고 글을 쓰고 입력하고 프로그램을 실행하니 GPT-3가 이 내용에 이어지는, 소름끼치는 초단편소설을 만들어내더랍니다. 정말 대박이에요.

디지털 마법에 가려진 유령노동자 쪽을 읽으면서 (e북으로 읽느랴 몇페이진지 모르겠습니다.) 지금 읽고있는 노동법 관련한 책에 나오는 구절이 생각났습니다. (업무적으로 읽는중) [그러나 확실한 것은 개인적으로나 사회적으로 항상 '사람'이라는 화두가 중심에 있었다는 점입니다. 과거도, 현재도, 그리고 앞으로도 결국은 '사람'이 화두일 것이고 제일 소중한 가치일 것입니다. - 쉽게 풀어쓴 노동법] 아마존이 제공하는 인공지능 플랫폼 알렉사나 레스터 같은 워커들이 있는줄은 정말 몰랐어서 놀랐습니다.

업무적으로 노동법 관련 서적을 읽으시다니요..! 저도 1부에 제시되는 여러 사례들을 읽다보니 기술의 발전과 더불어, 사람을 중심으로 생각하는 휴머니즘이 함께해야 한다는 생각이 들었습니다. 기술이 인간을 소외시킨다면 과연 누구를 위한 기술인가 싶기도 하고요. 고스트워커 부분은 저도 놀라면서 읽었습니다. 이미지 필터링 작업하는 노동자에 대한 이야기도 마찬가지고요.

67쪽, [가깝게는 아무 대책 없이 일자리에서 무더기로 밀려나지 않기 위해, 멀게는 우리가 기계나 기술로부터 버림받지 않기 위해 우리에게 가장 절실한 것은 바로 민주주의다.] 기승전민주주의인가요. 뭔가 김새는 기분입니다. 마치 노동자들의 부당한 처우 문제에 대해서 열심히 이야기하다가, '우리에게 지금 필요한 것은 사회의 정의다.' 같은 구호로 끝나는 느낌의 찝찝함이랄까.

읽다보니 느껴지는 건데, 최신 기술이나 뉴스들을 종합적으로 독자들에게 전달하려고 하니까 이야기 흐름이 뭔가 중구난방인 것 같습니다. 처음에 이거 건들고 갑자기 또 저거 건들었다가 이상하게 결론은 앞에서 언급한 사례와 전혀 다른 말을 합니다. 책 속에서 전달하는 몇몇 내용들은 신선하긴 한데 그것들의 배치가 썩 마음에 들지는 않습니다. 저자 분들은 제 글 안 볼테니 이런 말 해도 되겠죠, 뭐.