“ 하지만 알렉스 같은 노동자들에게 이 시스템은 단순한 관리 도구가 아니다. 시스템은 그의 근무 환경부터 일하는 방식, 하루 동안의 모든 행동을 결정한다. (…) 알렉스의 필요는 늘 아마존과 고객의 이익보다 뒤로 밀려났다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.201, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면
D-29
“ 감시 기술은 이제 산업 전반으로 확산되고 있다. 실제로 수십 곳의 테크 기업들이 업무를 감시하는 앱과 플랫폼을 개발하고 있다. 시민단체 코워커.org의 보고서에 따르면 2018년부터 2021년 사이에 노동자의 삶 전반을 디지털화하고 감시하는 데 활용되는 기술 제품이 550개 이상 개발되었다. 여기에는 채용부터 징계절차까지 모든 과정이 포함된다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.204, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 특히 지난 3년간 감시 도구의 사용이 급격히 증가했다. 키 입력 기록 기능은 40퍼센트 증가했고, 직원들이 감시받고 있다는 사실조차 모르게 하는 은폐 모드의 사용은 38퍼센트 증가했다. 또한, 전체 감시 도구의 3분의 1 이상이 직원의 정확한 GPS 위치를 추적할 수 있는 기능을 포함하고 있다. (…) 이 중에서도 테라마인드Teramind는 가장 악명 높은 프로그램이다. 이 소프트웨어를 사용하면 관리자가 직장뿐만 아니라 집에서도 카메라와 마이크를 통해 대화를 감청하고 감시할 수 있다. 더 나아가, 특정 규칙을 위반하면 해당 순간 앞뒤로 5분간의 모든 키 입력과 영상이 저장된다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.205~206, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 어떤 프로그램은 수집된 데이터를 분석해 특정 기준에 따라 ‘위험 점수’를 부여하기도 한다. 예를 들어, 퍼셉틱스Perceptyx는 노동자가 노동조합에 가입하거나 회사를 그만둘 가능성을 평가하는 ‘취약성 점수’를 생성한다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.206, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
생상성 향상의 이익은 노동자들이 노동으로부터 자유로워지는데 쓰이기보다는 대부분 투자자와 자산을 소유한 사람들에게 돌아갔다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
5장에서 아마존을 보면 쿠팡이 생각나네요. 비즈니스 모델부터 착취형 노동 모델까지 참 비슷한 것 같습니다.
자동화와 ai의 도입으로 높아진 생산성은 소비자 뿐만 아니라 노동자도 누릴 수 있을 줄 알았는데..
몇년째 크게 변하지 않는 택배비에 대해 소비자로서 반성해야 하지 않나 하는 생각도 들구요.
6장에서는 빅테크와 관련 생태 계에 자본을 대는 투자자들에 대한 얘기도 함께 나오는데 투자자들의 수익성을 올리기 위해 데이터 주석 작업자들을 미국에서 아프리카로 전환하는 것에 아주 잠시 고민한다거나 합리화하는 과정들을 보며 저 또한 쉽지 않은 결정이라고 동의합니다. 아무리 선한 의도에서 출발했다고 하더라도 빅테크 창업자나 최고경영자들의 단단한 확신조차 조금은 위험하게 느껴집니다. "테크산업은 일종의 능력주의적 필터라 그 필터를 거친 사람이라면 대체로 올바른 판단을 할 가능성이 높다"고 믿다니요. 저는 자기 선의에 대한 확신이 강한 사람이야 말로 가장 위험하다는 것을 인류의 역사 속에서 많이 본 것 같은데 잠시 소름이 끼치는 대목이었어요.
생각해 보니 저자가 배열한 각 장의 순서 나열도 의도한 것 같네요. 1장과 2장은 각각 AI의 제작/개발에 있어 가장 밑단에서 근무하는 데이터 주석 노동자와 핵심에 근접한 엔지니어를, 3장과 4장은 유형의 인프라를 관리하는 설비기술자와 무형의 창조활동을 하는 성우를, 그리고 5장과 6장은 AI가 개인의 일자리와 근무환경을 어떻게 통제하고 있는지를 물류노동자와 벤처투자자의 시선에서 각각 그려내고 있죠. 마치 육각형의 각 꼭지점에서 바라보는 느낌입니다.
각자 AI를 통해 다양한 일자리와 산업에 걸쳐 묶여 있지만 서로 정반대의 영역에서 누군가는 아래의 위치에서 AI에 의해 노동이 재편되고, 누군가는 AI를 설계해가는 윗자리에 있는 모습..
투자자에 대한 6장의 설명에서 피터 틸과 마크 저커버그라는 두 인물의 차이점에도 불구하고 결국 AI에 있어서는 본질적으로 같은 역할을 공유하고 있다는 설명이 인상 깊었습니다. 수평적이고 개방적인 조직 문화나 혁신적인 리더의 가치관이 오히려 조직의 관료제와 수직적 의사결정 구조를 교묘하게 가리는 장치일지도 모른다고 생각이 들고요.
피터 틸과 저커버그의 성품이나 가치관 자체보다는 AI의 개발주체가 (실리콘밸리) 기업에 편중되어 있는 구조라는 점, 기업이라는 조직 특성상 수직적인 위계에 따라 의사결정 권력이 CEO와 주주에게만 몰려있다는 점, 이로 인해 AI가 받아들이고 흡수해야 할 인간사회의 가치관이 아주 좁은 영역에만 편향되고 있는 현재의 '일방통행 밖에 안되는 길'이 문제일 겁니다. (여기에는 물론 자신들이 옳은 일을 하고 있고, 결과적으로 옳았다고 확신하는 투자자 또는 개발자/기술자 출신 CEO들의 자기확신이 부추기는 면도 있겠죠.)
전 오히려 피터 틸 같은 투자자들의 영향력에 대한 묘사보다는 마크 저커버그에 대한 작가의 지적이 더 와 닿더라고요. 다양성이나 포용, 개방과 오픈마인드에 대한 긍정적 인식이 지배적인 현대사회에서 오히려 이런 이미지들도 AI의 실체를 가리는 또 하나의 '환상'이 될 수 있겠구나 싶었거든요.
앞의 2장에서 엔지니어/개발자들에 대해 얘기하면서 '아르파넷'의 개발일화를 잠시 소개한 적이 있죠. 하루 평균 16시간씩 프로그래머들이 자발적으로 추가 보상 없이 일을 한 이 선례는 이후 IT업계에서는 하나의 신화가 되어 굳어집니다. 특히 '좋아서 일을 한다'는 개념은 '일을 즐긴다' 또는 '재미있는 일'의 가치로 조금씩 변화합니다. 아르파넷 프로그래머들은 틈틈이 자신들의 흥미차원에서 최초의 게임기능이나 이메일 기능을 추가하였는데 업무와 놀이/여가의 구분이 조금씩 모호해집니다.
<일은 당신을 사랑하지 않는다>는 IT기업들이 프로그래머/엔지니어 노동자가 노조를 결성하여 연대하게 만들기 보다는 놀이를 곁들인 '자유로운 조직문화'라는 당근을 제시하는 전략을 택했다고 분석합니다. 자유로운 출퇴근 복장, 자기 의견을 개진할 수 있는 문화, 일을 하다가도 게임을 하거나 밖으로 나갈 수 있는 분위기 등은 제조업이나 금융업 같은 보수적인 산업에 비하면 훨씬 매력적으로 보였기 때문이죠.
하지만 세라 자페는 이것이 근로자를 위한 복지라기 보다는 경영진들이 직원을 보다 은밀하게 통제하는 '관리방안'의 하나로 봅니다. 당신이 좋아할만한 기업문화와 분위기를 만들어줬으니 그에 상응하는 헌신을 바치라는 무언의 압력은 IT근로자들에게 잦은 야근, 집중적인 특근문화(크런치)를 당연하게 여기도록 하고 불만을 드러내지 못하게 만들었다는 겁니다.
'이 일이 좋아서 선택했으므로 불만을 느낀다면 일을 사랑하지 못하는 거다' 라는, 개인으로 귀결되는 논리가 형성됩니다. 왜냐면 놀이터와 같은 일터에서 열심히 일하지 않는다는 건, 노는 것조차 제대로 집중하지 못한다는 얘기가 되기 때문입니다. 놀이와 업무의 모호한 공유가 조직문화가 되고 그 조직문화에 만일 적응을 못하는 개인이 있다면 그는 회사의 '관대한 혜택'에 만족하지 못하는 부적응자가 되버리니까요.
위 내용은 산업에 종사하는 노동자의 입장에서, 근무환경의 측면에서 분석한 거지만 마크 저커버그처럼 회사의 의사결정이라는 권력구조의 측면에서도 '수평적이고 개방적인 문화'가 회사가 펼치는 전략일 수 있다고 봅니다. 다양한 조직구성원과 사회 생태계를 고려하고 배려하는 이미지를 형성한 기업이나 CEO는 '민주적인 리더'로 인식될 수 있죠. 어쩌면 현재의 빅테크 기업가들이 공개적인 자리에서 캐주얼한 옷을 입고, 대중의 앞에 자주 나서며, 혁신가의 이미지를 주로 가져가려는 것도 그런 연관이 있지 않을까 싶네요.
“ 재미를 추구하는 IT업계 직장들은 일찌감치 테이블축구와 오락기를 비롯한 각종 게임을 회사에 들여놓기 시작했고, 프로그래머들은 그 안에서 자신들이 영향력이 있고 절대 대체되지 않을 것으로 믿으며 안정감을 느꼈다. 하지만 기업들은 이미 직장 감시를 늘리고 있었고 업무를 파편화해 프로그래머들의 창의적 자유를 분쇄할 방법을 모색했다. ”
『일은 당신을 사랑하지 않는다 - 우리를 지치고 외롭게 만드는 사랑하는 일에 대하여』 p.380, 세라 자페 지음, 이재득 옮김
문장모음 보기
“ 인생을 최대한 바치도록 하려고 페이스북 본사 기술자들이 일하는 곳은 퍼즐, 게임, 레고, 스쿠터 같은 장난감들이 널려 있었다. 밤늦게까지 일하는 소녀왕들을 즐겁게 해주려고 새로운 놀잇거리들이 줄지어 들어왔다. "심지어 일할 때도 노는 것처럼 보이는 것이 페이스북이 생각하는 미덕이었어요. 다른 기업들과의 차별화 전략이었고, 모든 것을 게임처럼 만드는 방법이죠." 하지만 프로그래머들은 파티에도 노트북을 챙겨와서 일을 끝마치곤 했다. ”
『일은 당신을 사랑하지 않는다 - 우리를 지치고 외롭게 만드는 사랑하는 일에 대하여』 p.384~385, 세라 자페 지음, 이재득 옮김
문장모음 보기
“ 일론 머스크는 캘리포니아주 프리몬트 테슬라 자동차 공장에서 고생하는 근무자들을 위 해 무료 냉동 요거트와 롤러코스터를 제공하겠다고 약속했다. 하지만 근무자들은 과도한 생산업무로 부상에 시달렸고 아픔을 달래는 데 냉동 요거트는 필요가 없다. 그들은 노조를 원했다. ”
『일은 당신을 사랑하지 않는다 - 우리를 지치고 외롭게 만드는 사랑하는 일에 대하여』 p.391, 세라 자페 지음, 이재득 옮김
문장모음 보기
2022년을 되돌아보면, 웹3, 크립토, 블록체인, NFT 같은 개념들은 그 당시 한창 유행하던 기술 낙관론에 취한 미래주의적 열병의 한 조각처럼 보였다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.228, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 투자자들에게 중요한 것은 AI가 현실적으로 얼마나 실용적인 기술인지가 아니다. 주가가 상승하고 기업 가치가 계속해서 뛰어오르는 한, 세부적인 질문은 생략된 채 시장의 파티는 계속될 것이다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.230, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 과거 실리콘밸리 스타트업들은 지금과는 다른 방식으로 자금을 조달했다. 닷컴붐 시절에는 기업가들이 엔젤 투자자로 나서거나, 창업자의 가족과 친구들이 직접 투자하는 경우가 많았다. 예를 들어 1994년, 제프 베이조스는 부모에게서 30만 달러를, 22명의 지인들에게서 각 5만 달러씩을 모아 창업 자금을 마련했다. 마크 저커버그 역시 피터 틸에게서 50만 달러의 엔젤 투자를 유치하는 조건으로 페이스북 지분 10.2퍼센트를 내주었다.
그러나 2020년 이후 AI 스타트업이 ‘게임에 참여’하고 싶다면, 기존의 빅테크 기업과 협력할 수밖에 없는 환경이 됐다. 대형 테크 기업들은 수십억 달러를 AI 스타트업에 투자하는 한편, 동시에 이들 스타트업이 자사의 클라우드 플랫폼을 사용하도록 강제해 일정한 금액을 회수하고 있다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.234, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보 기
“ 흔히 자본은 독립적이라고 하지만, 실상은 그 독립성은 껍질일 뿐이다. 이처럼 과감한 공공 투자가 이뤄졌음에도, VC들은 자신들의 투자 방향을 공익을 위해 조정해야 할 민주적 의무를 지지 않았다. 오히려 그들은 자신들이 벌어들인 막대한 이익을 자본 이득세로부터 보호하기 위해 싸웠다. 그렇게 공적 투자로 만들어진 경제적 성과의 상당 몫이 사적 영역으로 옮겨졌다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.243, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 경쟁의 압력 속에서 어떤 방향으로 움직일지를 결정하는 사람들은 자본을 소유했거나, 그 자본을 대리하는 이들이다. 경영진, CEO, 주주, 투자자 등이 바로 그들이다. 반면, 이들이 내리는 결정에 노동자가 실질적으로 개입할 수 있는 권한은 거의 없다. 생산의 핵심을 담당하고 있음에도, 그들의 목소리는 의사결정 테이블에서 좀처럼 반영되지 않는다. 대부분의 기업에서 조직의 대다 수를 차지하는 노동자들은 기업 운영 방식에 대해 실질적인 발언권이 없으며 경영진과 대주주라는 소수 집단의 이해관계에 따라 모든 것이 결정된다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.245, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 하지만 한 가지 공통된 믿 음이 있다. 바로 ‘창업자 중심의 사고방식’이다. 이는 스타트업 창업자나 테크 기업 CEO들이 가장 중요한 기술 개발 및 투자 결정을 내릴 최적의 위치에 있다는 신념이다. 이들은 민주주의보다는 시장을, 공공 지출보다는 기업과 자선 활동을, 그리고 법적 규제보다는 자율 규제를 더 신뢰한다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.247, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
결과적으로 단 한 사람이 전 세계 수십억 명이 사용하는 디지털 인프라를 실질적으로 통제할 수 있는 권한을 가진 셈이다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.248, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 문제는 이러한 사고방식이 마크 저커버그 같은 이들이 휘두르는 무제한적인 권력의 위험성을 간과하게 만든다는 데 있다. 이들은 세상을 이해관계가 충돌하고, 다양한 사회 집단이 대립하는 복잡한 정치적 공간으로 보지 않는다. 그보다는 세상은 해결 가능한 기술적 문제로 가득 차 있으며, 자신과 같은 똑똑한 사람들이 적절한 자금과 자원을 제공받기만 하면 그런 문제들은 하나하나 풀어낼 수 있다고 믿는다. 이런 낙관적 세계관 속에서, 그들은 세상이 점점 더 나아지고 있으며 자신들이 그 진보에 핵심적인 역할을 하고 있다고 확신한다. 스스로를 장기적인 낙관주의자로 여기며, 기술이 결국 사회를 해방시킬 수 있다고 믿는 것이다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.250, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다