[책걸상 함께 읽기] #48. <권력과 진보>

“ …디지털 테크놀로지는 공유된 번영의 무덤이 되었다. 임금 성장은 둔화되었고 국민소득중 노동으로 들어가는 몫은 급감했으며 1980년경부터 시작해 임금 불평등도 크게 증가하기 시작했다. 세계화, 노조의 약화 등 수많은 요인이 있었겠지만 가장 중요한 요인은 테크놀로지의 방향 선회였다. 디지털 테크놀로지는 노동자의 업무를 자동화했고, 자본에 비해 노동에 불리하게, 그리고 대졸이나 대학원졸 노동자에 비해 저학력 노동자에게 불리하게 작용했다. 이러한 방향 선회는 미국 사회에서 벌어진 더 큰 변화를 파악해야 이해할 수 있다. 이 시기에 기업계는 노동계와 규제 당국에 맞서 전보다 더 조직적으로 대응했다. 그리고 더 중요하게, 이윤 추구와 주주 가치 극대화가 공공선이라는 새로운 비전이 사회의 상당 부분에 걸쳐 주된 조직 원리가 되었다. 이 비전과 그것이 제공하는 막대한 부의 가능성은 테크놀로지 공동체를 초창기 해커들이 상상했던 것과는 매우 다른 방향으로 움직이게 했다. 새로운 비전은 “디지털 유토피아”비전이었고, 이 유토피아는 톱다운식 소프트웨어 설계로 노동을 자동화하고 통제하는 것에 기반한 유토피아였다. 테크놀로지의 새 경로는 불평등을 증가시켰을 뿐 아니라 스스로가 약속한 막대한 생산성 증가도 이루지 못했다. ”

“ 현대 AI는 테크 지배층이 쥐고 있는 도구를 증폭해 그들이 창조적인 방식으로 노동 자동화와 노동력 대체를 밀어붙일 수 있게 해준다. 그러면서도 생산성을 높이고 인류가 직면한 수많은 문제를 해결하는 등 온갖 종류의 선한 일을 하고 있는 것으로 상정된다(그들은 그렇게 주장한다). AI로 막강해진 테크 지배층은 나머지 사람들의 의견을 들어야 할 필요성을 한층 덜 느낀다. 사실, 테크 지배층 상당수가 나머지 사람들은 그리 현명하지 못해서 자신에게 좋은 것이 무엇인지 잘 모른다고 생각한다. 2000년대 중반 무렵이면 디지털 기술과 거대 기업의 결합은 억만장자를 점점 더 많이 만들어 내고 있었다. 그리고 2010년대에 AI 도구가 퍼지기 시작하면서 이러한 부는 한층 더 증폭되었다. 하지만 이것은 AI 도구들이 주창자들이 주장해 온 것만큼 놀랍거나 생산적이어서가 아니었다. 오히려 AI 기반 자동화는 생산성을 크게 높이는 데 종종 실패하며, 더 안 좋게도 공유된 번영은 전혀 짓지 못한다. 그런데도 업계의 거물과 고위 경영자들을 매혹하고 부자로 만들어 주며, 그와 동시에 노동자들의 역량과 권력을 약화하고 사람들로부터 수집한 정보를 돈으로 만드는 방법을 개척한다. 자동화와 감시에 디지털 테크놀로지를 사용하는 쪽으로 맹렬히 돌진하는 가운데 이 모든 사실이 간과되고 있다는 점이 우리가 이 비전의 이 같은 국면을 “AI 환상”이라고 부르는 이유다. 이 환상은 향후 몇 년간 강력한 알고리즘이 더 많이 개발되고 온라인을 통한 전 지구적 연결이 더욱 심화되면서, 그리고 가전제품 등 기계들이 영속적으로 클라우드에 연결되어 더 많은 데이터를 수집하면서 한층 더 강화될 것이다. ”