[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

@참미르 님, 정성이 담긴 댓글 감사합니다. 댓글을 적어주신지 시간이 꽤 지났는데 내용을 읽고 생각해봤습니다. 중간의 군축 포스터의 예가 참 적절하다고 생각했는데요. 가족이라는 가치를 내세워 군비의 정당성과 당위성을 확보하지만 이런 접근법은 언제나 특정 사회 구성원이나 다른 형태의 가족을 소외시키게 마련이죠. 공동체를 지키고 세금을 납부해야 하는 납세자의 권리가 아닌, 개인적 영역인 가정을 끌고 오는 것은 문제를 우회하는 접근법으로 보입니다. 이런 방법이 특정 계층들에게 심리적인 공감과 자극을 통해 참여를 부추길 수도 있지만 반대로 사회의 다양한 영역과 문제를 개인과 가정의 차원으로 한정하는 가림막이 된다는 지적이 인상 깊었습니다. 참고도서인 <일은 당신을 사랑하지 않는다>는 고용형태와 노동자의 근무환경을 주로 다루는 책이지만, 현대사회 특히 신자유주의가 확산되는 과정에서 '부자유'의 개념을 개인에게 심었다고 말합니다. 사람들에게 무언가를 할 수 있는 능력과 권리를 강조하기 보다는, 할 수 없거나 누릴 수 없는 자유를 강조함으로써 부족과 결핍에 더 집중하게 만들었다는 지적이에요. 그리고 이런 '부자유'가 경제와 일자리에 있어 '개인의 능력 부족'으로 연결되면서 불안정한 고용형태와 구조적인 압박을 노동자 개인의 문제로 바꿔버렸다는 내용입니다. 이 과정에서 남성들은 포드주의 시대를 경험했거나, 그런 부모세대의 경제적 안정을 보고 자란 이들이 현재에는 가장으로서의 충분한 수입을 보장 받지 못해 가장의 권위 더 나아가 남성성에 대한 불안에 휩싸이게 되고요. 여성들은 여성들대로 산업과 일자리에 아직 남아있는 여성중심적 노동에 대한 편견, 경력과 사회활동에 전념하느라 가족을 소홀히 한다는 고민을 버리지 못합니다. 남성과 여성 모두 고용과 가정의 불균형에서 오는 구조적 문제를 자신과 가정 안의 개인적 문제로 치부해버림으로서 구조를 개선하기 어려워진다고 보고 있고요. 말씀해주신 내용을 보며 가족의 개념이라는 것이 어떻게 우리의 사고와 인식을 바꿔왔는지 생각해 보게 되네요.

5장에서 아마존을 보면 쿠팡이 생각나네요. 비즈니스 모델부터 착취형 노동 모델까지 참 비슷한 것 같습니다. 자동화와 ai의 도입으로 높아진 생산성은 소비자 뿐만 아니라 노동자도 누릴 수 있을 줄 알았는데.. 몇년째 크게 변하지 않는 택배비에 대해 소비자로서 반성해야 하지 않나 하는 생각도 들구요. 6장에서는 빅테크와 관련 생태계에 자본을 대는 투자자들에 대한 얘기도 함께 나오는데 투자자들의 수익성을 올리기 위해 데이터 주석 작업자들을 미국에서 아프리카로 전환하는 것에 아주 잠시 고민한다거나 합리화하는 과정들을 보며 저 또한 쉽지 않은 결정이라고 동의합니다. 아무리 선한 의도에서 출발했다고 하더라도 빅테크 창업자나 최고경영자들의 단단한 확신조차 조금은 위험하게 느껴집니다. "테크산업은 일종의 능력주의적 필터라 그 필터를 거친 사람이라면 대체로 올바른 판단을 할 가능성이 높다"고 믿다니요. 저는 자기 선의에 대한 확신이 강한 사람이야 말로 가장 위험하다는 것을 인류의 역사 속에서 많이 본 것 같은데 잠시 소름이 끼치는 대목이었어요.

생각해 보니 저자가 배열한 각 장의 순서 나열도 의도한 것 같네요. 1장과 2장은 각각 AI의 제작/개발에 있어 가장 밑단에서 근무하는 데이터 주석 노동자와 핵심에 근접한 엔지니어를, 3장과 4장은 유형의 인프라를 관리하는 설비기술자와 무형의 창조활동을 하는 성우를, 그리고 5장과 6장은 AI가 개인의 일자리와 근무환경을 어떻게 통제하고 있는지를 물류노동자와 벤처투자자의 시선에서 각각 그려내고 있죠. 마치 육각형의 각 꼭지점에서 바라보는 느낌입니다. 각자 AI를 통해 다양한 일자리와 산업에 걸쳐 묶여 있지만 서로 정반대의 영역에서 누군가는 아래의 위치에서 AI에 의해 노동이 재편되고, 누군가는 AI를 설계해가는 윗자리에 있는 모습.. 투자자에 대한 6장의 설명에서 피터 틸과 마크 저커버그라는 두 인물의 차이점에도 불구하고 결국 AI에 있어서는 본질적으로 같은 역할을 공유하고 있다는 설명이 인상 깊었습니다. 수평적이고 개방적인 조직 문화나 혁신적인 리더의 가치관이 오히려 조직의 관료제와 수직적 의사결정 구조를 교묘하게 가리는 장치일지도 모른다고 생각이 들고요. 피터 틸과 저커버그의 성품이나 가치관 자체보다는 AI의 개발주체가 (실리콘밸리) 기업에 편중되어 있는 구조라는 점, 기업이라는 조직 특성상 수직적인 위계에 따라 의사결정 권력이 CEO와 주주에게만 몰려있다는 점, 이로 인해 AI가 받아들이고 흡수해야 할 인간사회의 가치관이 아주 좁은 영역에만 편향되고 있는 현재의 '일방통행 밖에 안되는 길'이 문제일 겁니다. (여기에는 물론 자신들이 옳은 일을 하고 있고, 결과적으로 옳았다고 확신하는 투자자 또는 개발자/기술자 출신 CEO들의 자기확신이 부추기는 면도 있겠죠.)

전 오히려 피터 틸 같은 투자자들의 영향력에 대한 묘사보다는 마크 저커버그에 대한 작가의 지적이 더 와 닿더라고요. 다양성이나 포용, 개방과 오픈마인드에 대한 긍정적 인식이 지배적인 현대사회에서 오히려 이런 이미지들도 AI의 실체를 가리는 또 하나의 '환상'이 될 수 있겠구나 싶었거든요.

앞의 2장에서 엔지니어/개발자들에 대해 얘기하면서 '아르파넷'의 개발일화를 잠시 소개한 적이 있죠. 하루 평균 16시간씩 프로그래머들이 자발적으로 추가 보상 없이 일을 한 이 선례는 이후 IT업계에서는 하나의 신화가 되어 굳어집니다. 특히 '좋아서 일을 한다'는 개념은 '일을 즐긴다' 또는 '재미있는 일'의 가치로 조금씩 변화합니다. 아르파넷 프로그래머들은 틈틈이 자신들의 흥미차원에서 최초의 게임기능이나 이메일 기능을 추가하였는데 업무와 놀이/여가의 구분이 조금씩 모호해집니다. <일은 당신을 사랑하지 않는다>는 IT기업들이 프로그래머/엔지니어 노동자가 노조를 결성하여 연대하게 만들기 보다는 놀이를 곁들인 '자유로운 조직문화'라는 당근을 제시하는 전략을 택했다고 분석합니다. 자유로운 출퇴근 복장, 자기 의견을 개진할 수 있는 문화, 일을 하다가도 게임을 하거나 밖으로 나갈 수 있는 분위기 등은 제조업이나 금융업 같은 보수적인 산업에 비하면 훨씬 매력적으로 보였기 때문이죠. 하지만 세라 자페는 이것이 근로자를 위한 복지라기 보다는 경영진들이 직원을 보다 은밀하게 통제하는 '관리방안'의 하나로 봅니다. 당신이 좋아할만한 기업문화와 분위기를 만들어줬으니 그에 상응하는 헌신을 바치라는 무언의 압력은 IT근로자들에게 잦은 야근, 집중적인 특근문화(크런치)를 당연하게 여기도록 하고 불만을 드러내지 못하게 만들었다는 겁니다. '이 일이 좋아서 선택했으므로 불만을 느낀다면 일을 사랑하지 못하는 거다' 라는, 개인으로 귀결되는 논리가 형성됩니다. 왜냐면 놀이터와 같은 일터에서 열심히 일하지 않는다는 건, 노는 것조차 제대로 집중하지 못한다는 얘기가 되기 때문입니다. 놀이와 업무의 모호한 공유가 조직문화가 되고 그 조직문화에 만일 적응을 못하는 개인이 있다면 그는 회사의 '관대한 혜택'에 만족하지 못하는 부적응자가 되버리니까요. 위 내용은 산업에 종사하는 노동자의 입장에서, 근무환경의 측면에서 분석한 거지만 마크 저커버그처럼 회사의 의사결정이라는 권력구조의 측면에서도 '수평적이고 개방적인 문화'가 회사가 펼치는 전략일 수 있다고 봅니다. 다양한 조직구성원과 사회 생태계를 고려하고 배려하는 이미지를 형성한 기업이나 CEO는 '민주적인 리더'로 인식될 수 있죠. 어쩌면 현재의 빅테크 기업가들이 공개적인 자리에서 캐주얼한 옷을 입고, 대중의 앞에 자주 나서며, 혁신가의 이미지를 주로 가져가려는 것도 그런 연관이 있지 않을까 싶네요.