[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

먼저 온 미래, 오프 모임에서 읽었습니다. 신기술이 상용화되기 시작하면 사회적 첫반응은 우려와 거부가 주를 이루는 경우가 많다고 생각합니다. 그런 우려들은 매우 타당하기도 하고 꽤 중요한 의미를 포함하고 있기도 하죠 그렇지만 지나놓고 보면 다소 이상해보일 정도로 낯설기도 합니다. 그냥 일상이 되어버렸으니까요. 이에 대해선 사피엔스의 명문장이 잘 설명했단 생각이 듭니다. "인류 역사를 통틀어 사치품은 필수품이 되고, 새로운 의무를 낳는 경향이 있다. 일단 사치에 익숙해진 사람들은 그것을 당연한 것으로 받아들인다. 그러고 나면 그것 없이 살 수 없게 되며, 머지않아 그것을 갖지 못한 사람들은 불행하다고 느끼기 시작한다. 수많은 발명품들, 예를 들어 멈출 줄 모르는 소비의 수레바퀴를 굴린 것들이 모두 이러한 사치품의 덫이었다." 플라톤의 <파이드로스>에는 소크라테스가 발명의 신 토트와 타무스왕의 대화를 인용하면서 문자를 비판하는 내용이 나오는데, 구술시대의 소크라테스는 문자가 인간의 기억력을 퇴화시키고, 지식을 고립시킬 거라고 우려하고 있습니니다. 고미숙의 <나비와 전사>에는 기차가 처음 나왔을 당시 전세계 사람들이 느꼈던 충격과 공포에 대한 얘기가 나오는데요. 당시의 의사와 과학자들은 시속 30마일(약 48km/h) 이상의 속도로 달리는 기차를 타면 뇌가 몸에서 분리되거나, 혈관이 터져서 실명할 수 있다고 경고했습니다.특히 여성과 신경이 약한 사람들은 기차 여행 후 **'기관차 정신병(Locomotive Mania)'**을 겪을 것이라는 두려움이 널리 퍼졌습니다. 또 엄청난 굉음, 매연, 진동은 인간의 감각기관이 감당할 수 없는 폭력적인 환경으로 인식되었습니다. 제가 초기에 AI를 사용했을때는 너무 자주 틀린 답을 내놓아서 그저 장난감같은 느낌이었는데 1년만에 너무 빠른 속도로 성장했음을 체감합니다. 문과이고 책을 좀 많이 읽는 편인 제게도 이런 정도의 체감이라면 실용적인 면에선 더 파괴력이 있다고 생각합니다. 그저 몇몇 일자리 정도가 아니라 대부분의 사무직 일자리들은 빠르게 타격을 입고 있다고 보입니다. 특히 경력이 전혀 없는 신규채용은 거의 0에 수렴하고 있다고 해도 좋을 정도의 보고가 있습니다. 오프에서 만나는 청년들이 작년도 어려웠지만 올해는 구인자체가 씨가말랐다, 인턴도 2년의 경력을 요구하더라...이런 얘기를 하거든요. 이와 관련해서는 10년 전에 나온 <로봇의 시대, 인간의 일>에서도 꽤 잘 예측했던 것 같습니다. AI는 틀린 지식들을 말하는 경우도 많습니다. 그러나 제 경험으로는 권위있는 저자들의 책에서도 그런 내용들이 있었고, 제 오랜 편견을 만들어오기도 했더라고요. 이것을 사용할 때 인터넷에 집적된 수많은 정보의 집합이라는 전제를 늘 염두에 둔다라면 잘못된 정보에 의존하는 위험을 피할 수 있으리라고 봅니다. 저는 먼저온 미래를 읽으며, AI로 인한 지식접근성의 평등이 이루어질 수도 있으며, 인류의 오랜 집단지성의 결과물인 AI와 경쟁하면서 유능함 앞에 한 개인이 느끼는 좌절감은 어떤 면에서 당연하지 않나 라는 생각도 했습니다. 아무튼 오늘이나 내일 중으로 책을 구하면 읽어보려 합니다. 새로운 시각, 새로운 주제에 설레네요

드디어 책을 구해 읽기 시작했습니다. 모임 속도에 따라가지 못하고 뒷북을 치는 것 같아 송구하지만...책을 읽기 시작하면서 제가 과거 로봇의 시대, 인간의 일을 읽으면서 얻었던 정보를 수정했습니다. 그 책에는 19세기말 20세기초 매출 1위 기업이었던 gm사와 21세기 1위 기업인 구글의 고용규모를 비교하면서 1/10이 조금 넘는 정도로 구글이 적다는 내용이 나왔던 것 같습니다. 책 초반에 나오는 데이터 노동자들의 현실에 대해 읽으며, 위의 내용이 사실인지 점검해 보는 과정에서 21세기 들어 세계적인 매출 1위 기업은 월마트였고 고용규모도 gm사를 넘어선다는 것을 알게 되었습니다. 제러미 리프킨이 <한계 비용 제로 사회>에서 예언한대로 농축산물은 좀더 복잡하지만, 공산품의 경우 한계 생산 비용이 계속 낮아졌기에 상대적으로 유통, 판매가 약진하고 있는 것 같습니다. 이번 사태로 쿠팡의 매출이 40조라는 것이 알려졌듯이 말이죠 문제는 이런 노동이 한국의 대졸자중심 교육 시스템과 매우 미스매칭이란 것입니다. 고용규모 1위인 월마트, 2위인 아마존의 노동자들은 대부배송기사, 판매직원, 창고관리, 고객서비스같은 노동이니까요.

포드주의가 대량생산시대의 문을 열고 가족주의를 공고화했다는 인용해주신 문장을 보니, 아주 오래 전에 치열하게 읽었던 기틴스의 <가족은 없다>가 떠올라서 그때 발췌와 토론했던 글을 찾아보았습니다....

19세기 중간 계급의 남자들은 왜 (핵)가족모델을 가족이데올로기로 이상화했는가? 가부장제는 이전의 '영주 -농노'의 관계가 가정내 '아버지 -아내,자녀'의 관계로 내면화되었다.   밑에 인용했던 가부장제 정립과 '가족이데올로기' 탄생에 대한 역사적, 이념적 바탕을 재인용하면 이렇다.   초기 유대-기독교 신학은 모든 권위와 정의, 정직, 자비의 원천인 유일의 남신 개념에 기초해 만들어졌다. 여성은 언제나 보다 하찮은 존재로 신의 은총으로부터 남성을 타락시키는 원조이며 요부, 죄인, 욕망의 화신이었다. 여성들은 남성의 권위에 대한 경의와 복종을 통하여, 그리고 어머니임을 통하여 유일하게 구원받을 수 있다. 17세기 이후에는 과학과 과학적 패러다임이 권위가 '자연적'인 것으로 표현되었다.  남성은 '자연적으로' 권위있고, 여성은 '자연적으로 ' 공손하며, 약하고, 수동적이며, 직관적이라 간주되었다.  따라서 남성은 통치하고, 의사결정하고, 여성과 아이들을 지도하는 데 적합하다고 여겨졌다.  이러한 가부장적 전제들은 과학의 핵심부분이었으며, 정부가 문제를 인식하고 정책을 만드는 데에 가장 중요한 부분이 되었다. 종교처럼 과학도 '가족이데올로기'를 신성화했다. 또한 19세기 중간 계급은 노동계급의 부도덕과 난잡상으로부터 중간 계급 특유의 신성, 순결, 조화로운 장소인 가정을 구분했고, 이를 가장 이상적인 형태로 하도록 입법화했다.   기틴스는 계속해서 '가족가구'와 이데올로기로서의 '가족'을 구분하고자 했는데, 우리는 그점을 자꾸 혼동했던 것 같다.   19세기 중간 계급 남자들이 (핵)가족 모델을 만들고, 그런 형태의 가족을 구성했다기보다는 '가족'이라는 것에 이데올로기적 가치를 부여한 사람들이라는 것이다.     그럼 바렛과 매킨토시의 보충설명을 들어 보자.   최근의 군축 포스터에 나타난 문구를 예로 들어보자.  " 영국의보통 가정은 작년 1년간 무기구입에 주당 16파운드를 썼습니다." 그리고  생필품과 함께 소형 미사일을 담은 수퍼마켓 짐수레를 끌고 가는 전형적인 가족상이 그려져 있다.  왜 방위비로 충당되는 세금에 대해 통제권을 상실한 개별 납세자로서는 묘사되지 않는가?  그 이유는 '가족'은 훨씬 더 공감을 사는 이미지이기 때문이다. 이 포스터는 가정중심주의, 가족 가치와 평화주의를 결합시키려 노력한다. 사람들은 이와 같은 가정의 안락에 대한 군국주의적 침략에 경악할 것으로 기대된다. 그리고 실제로 그렇다. 그러나 그 메시지를 가족주의의 담론으로 포장하는 것은 독신자 역시 핵전쟁에서 죽을 수 있으며, 군비사용에 저항하는 것은 시민의 자격으로서이지 가족으로서가 아니라는 사실을 가리고 만다.    기억해야 할 것은 현재의지배적인 가족모델이 언제나 그래왔던 것도 아니며, 모든 문화에 다 통용되는 것도 아니라는 사실이다. 이 모델은 19세기 부르주아지 가족의 특정 유형을 반영한다. 마크 포스터는 그것이 중세 이래 서부 유럽에서 존재해 온 네 가지 형태의 가족 중 하나라고 말하며, 이 특정 형태가 전사회계급으로 확대되는 과정을 강조했다. 이 가족 형태가 지배적인 것으로 자리잡은 것은 현대 가족생활의 특징을 이상적인 것으로 반영하는 강력한 이데올로기의 위력 탓이다. 그 가족은 동거단위, 경제단위로서의 가구구성과는 별 관련을 맺고 있지 않다.    '가족'이 문화적 보편성과 생물학적 영원성을 갖는다는 주장은 지나친 왜곡이다. 화폐지배체계에 대한 반태제로서의 가족이라는 이데올로기적 구축은 '다만' 자본주의사회에 한정된 고유한 것이다.   이 책은 영국의 센서스를 인용하며 영국 가정의 1/3 도 안되는 수만이 그런 구성 속에서 살고 있으며, 단지 1/10만이 아버지가 생계를 전담하고 어머니가 전업주부인 규범적인 유형을 취하고 있다고 전한다.   또 이 책은 핵가족이 근대자본주의 시대의 독특한 가족 형태였다는 생각도 부정한다.   근대 이전의 가족의 평균 구성원 숫자가 4.76명 정도였다는 통계까지 보여줬다.   우리 역시 개인에게 일어나는 제반 문제들을 사회, 경제적, 정치적으로 인식하기보다 가족의 문제에 침윤한다. 기틴스가 말한 것처럼 청소년문제도 부모와 자녀의 심리적, 관계적 측면으로 논의하고, 전업주부의 우울증도 주부클리닉으로 해결하려 한다. 많은 사람들이 경제적 사회적 문제들로 고통받을 때, 이것을 개인적 가족적 문제로 치부해버린다. 따라서 본질을 인식하는 데 장애물이 된다.   가족 체험으로부터 개인의 트라우마를 찾고 가족의 휴머니티에서 모든 위안을 찾는다.   개인들에게 일어나는 많은 문제의 책임은 이상적 가족(가정)을 만들지 못한 잘못에 돌아간다.

"가부장의 노동으로 가족생계를 책임진다."는 이데올로기는 여성의 돌봄노동을 무상으로 묶어둠으로써 얻는 자본가의 막대한 이익을 구현하는데 너무나도 유효한 전략이었습니다. 이것은 이데올로기였을 뿐 진정한 현실은 아니었기 때문에 더 그러했는데, 실제로는 많은 여성이, 특히 생산직 저임금 노동자들의 아내나 딸들은 가사만을 전담하지 않았으니까요. 또한 그런 가부장제 이데올로기 덕분에 여성의 본업은 집안일이고, 그들의 임금노동은 '덤'이라는 인식이 당연시됐고, 이런 생각이 동일한 일을 해도 남성보다 낮은 임금을 줄 수 있는 근거가됐습니다. 포드는 기존의 이러한 가부장적 이데올로기를 현실에서 구현하려 했던, (꽤 그에 근접한 노동자 가족의 전형을 구현한) 자본가라는 생각이 듭니다.

@참미르 님, 정성이 담긴 댓글 감사합니다. 댓글을 적어주신지 시간이 꽤 지났는데 내용을 읽고 생각해봤습니다. 중간의 군축 포스터의 예가 참 적절하다고 생각했는데요. 가족이라는 가치를 내세워 군비의 정당성과 당위성을 확보하지만 이런 접근법은 언제나 특정 사회 구성원이나 다른 형태의 가족을 소외시키게 마련이죠. 공동체를 지키고 세금을 납부해야 하는 납세자의 권리가 아닌, 개인적 영역인 가정을 끌고 오는 것은 문제를 우회하는 접근법으로 보입니다. 이런 방법이 특정 계층들에게 심리적인 공감과 자극을 통해 참여를 부추길 수도 있지만 반대로 사회의 다양한 영역과 문제를 개인과 가정의 차원으로 한정하는 가림막이 된다는 지적이 인상 깊었습니다. 참고도서인 <일은 당신을 사랑하지 않는다>는 고용형태와 노동자의 근무환경을 주로 다루는 책이지만, 현대사회 특히 신자유주의가 확산되는 과정에서 '부자유'의 개념을 개인에게 심었다고 말합니다. 사람들에게 무언가를 할 수 있는 능력과 권리를 강조하기 보다는, 할 수 없거나 누릴 수 없는 자유를 강조함으로써 부족과 결핍에 더 집중하게 만들었다는 지적이에요. 그리고 이런 '부자유'가 경제와 일자리에 있어 '개인의 능력 부족'으로 연결되면서 불안정한 고용형태와 구조적인 압박을 노동자 개인의 문제로 바꿔버렸다는 내용입니다. 이 과정에서 남성들은 포드주의 시대를 경험했거나, 그런 부모세대의 경제적 안정을 보고 자란 이들이 현재에는 가장으로서의 충분한 수입을 보장 받지 못해 가장의 권위 더 나아가 남성성에 대한 불안에 휩싸이게 되고요. 여성들은 여성들대로 산업과 일자리에 아직 남아있는 여성중심적 노동에 대한 편견, 경력과 사회활동에 전념하느라 가족을 소홀히 한다는 고민을 버리지 못합니다. 남성과 여성 모두 고용과 가정의 불균형에서 오는 구조적 문제를 자신과 가정 안의 개인적 문제로 치부해버림으로서 구조를 개선하기 어려워진다고 보고 있고요. 말씀해주신 내용을 보며 가족의 개념이라는 것이 어떻게 우리의 사고와 인식을 바꿔왔는지 생각해 보게 되네요.

5장에서 아마존을 보면 쿠팡이 생각나네요. 비즈니스 모델부터 착취형 노동 모델까지 참 비슷한 것 같습니다. 자동화와 ai의 도입으로 높아진 생산성은 소비자 뿐만 아니라 노동자도 누릴 수 있을 줄 알았는데.. 몇년째 크게 변하지 않는 택배비에 대해 소비자로서 반성해야 하지 않나 하는 생각도 들구요. 6장에서는 빅테크와 관련 생태계에 자본을 대는 투자자들에 대한 얘기도 함께 나오는데 투자자들의 수익성을 올리기 위해 데이터 주석 작업자들을 미국에서 아프리카로 전환하는 것에 아주 잠시 고민한다거나 합리화하는 과정들을 보며 저 또한 쉽지 않은 결정이라고 동의합니다. 아무리 선한 의도에서 출발했다고 하더라도 빅테크 창업자나 최고경영자들의 단단한 확신조차 조금은 위험하게 느껴집니다. "테크산업은 일종의 능력주의적 필터라 그 필터를 거친 사람이라면 대체로 올바른 판단을 할 가능성이 높다"고 믿다니요. 저는 자기 선의에 대한 확신이 강한 사람이야 말로 가장 위험하다는 것을 인류의 역사 속에서 많이 본 것 같은데 잠시 소름이 끼치는 대목이었어요.

생각해 보니 저자가 배열한 각 장의 순서 나열도 의도한 것 같네요. 1장과 2장은 각각 AI의 제작/개발에 있어 가장 밑단에서 근무하는 데이터 주석 노동자와 핵심에 근접한 엔지니어를, 3장과 4장은 유형의 인프라를 관리하는 설비기술자와 무형의 창조활동을 하는 성우를, 그리고 5장과 6장은 AI가 개인의 일자리와 근무환경을 어떻게 통제하고 있는지를 물류노동자와 벤처투자자의 시선에서 각각 그려내고 있죠. 마치 육각형의 각 꼭지점에서 바라보는 느낌입니다. 각자 AI를 통해 다양한 일자리와 산업에 걸쳐 묶여 있지만 서로 정반대의 영역에서 누군가는 아래의 위치에서 AI에 의해 노동이 재편되고, 누군가는 AI를 설계해가는 윗자리에 있는 모습.. 투자자에 대한 6장의 설명에서 피터 틸과 마크 저커버그라는 두 인물의 차이점에도 불구하고 결국 AI에 있어서는 본질적으로 같은 역할을 공유하고 있다는 설명이 인상 깊었습니다. 수평적이고 개방적인 조직 문화나 혁신적인 리더의 가치관이 오히려 조직의 관료제와 수직적 의사결정 구조를 교묘하게 가리는 장치일지도 모른다고 생각이 들고요. 피터 틸과 저커버그의 성품이나 가치관 자체보다는 AI의 개발주체가 (실리콘밸리) 기업에 편중되어 있는 구조라는 점, 기업이라는 조직 특성상 수직적인 위계에 따라 의사결정 권력이 CEO와 주주에게만 몰려있다는 점, 이로 인해 AI가 받아들이고 흡수해야 할 인간사회의 가치관이 아주 좁은 영역에만 편향되고 있는 현재의 '일방통행 밖에 안되는 길'이 문제일 겁니다. (여기에는 물론 자신들이 옳은 일을 하고 있고, 결과적으로 옳았다고 확신하는 투자자 또는 개발자/기술자 출신 CEO들의 자기확신이 부추기는 면도 있겠죠.)

전 오히려 피터 틸 같은 투자자들의 영향력에 대한 묘사보다는 마크 저커버그에 대한 작가의 지적이 더 와 닿더라고요. 다양성이나 포용, 개방과 오픈마인드에 대한 긍정적 인식이 지배적인 현대사회에서 오히려 이런 이미지들도 AI의 실체를 가리는 또 하나의 '환상'이 될 수 있겠구나 싶었거든요.

앞의 2장에서 엔지니어/개발자들에 대해 얘기하면서 '아르파넷'의 개발일화를 잠시 소개한 적이 있죠. 하루 평균 16시간씩 프로그래머들이 자발적으로 추가 보상 없이 일을 한 이 선례는 이후 IT업계에서는 하나의 신화가 되어 굳어집니다. 특히 '좋아서 일을 한다'는 개념은 '일을 즐긴다' 또는 '재미있는 일'의 가치로 조금씩 변화합니다. 아르파넷 프로그래머들은 틈틈이 자신들의 흥미차원에서 최초의 게임기능이나 이메일 기능을 추가하였는데 업무와 놀이/여가의 구분이 조금씩 모호해집니다. <일은 당신을 사랑하지 않는다>는 IT기업들이 프로그래머/엔지니어 노동자가 노조를 결성하여 연대하게 만들기 보다는 놀이를 곁들인 '자유로운 조직문화'라는 당근을 제시하는 전략을 택했다고 분석합니다. 자유로운 출퇴근 복장, 자기 의견을 개진할 수 있는 문화, 일을 하다가도 게임을 하거나 밖으로 나갈 수 있는 분위기 등은 제조업이나 금융업 같은 보수적인 산업에 비하면 훨씬 매력적으로 보였기 때문이죠. 하지만 세라 자페는 이것이 근로자를 위한 복지라기 보다는 경영진들이 직원을 보다 은밀하게 통제하는 '관리방안'의 하나로 봅니다. 당신이 좋아할만한 기업문화와 분위기를 만들어줬으니 그에 상응하는 헌신을 바치라는 무언의 압력은 IT근로자들에게 잦은 야근, 집중적인 특근문화(크런치)를 당연하게 여기도록 하고 불만을 드러내지 못하게 만들었다는 겁니다. '이 일이 좋아서 선택했으므로 불만을 느낀다면 일을 사랑하지 못하는 거다' 라는, 개인으로 귀결되는 논리가 형성됩니다. 왜냐면 놀이터와 같은 일터에서 열심히 일하지 않는다는 건, 노는 것조차 제대로 집중하지 못한다는 얘기가 되기 때문입니다. 놀이와 업무의 모호한 공유가 조직문화가 되고 그 조직문화에 만일 적응을 못하는 개인이 있다면 그는 회사의 '관대한 혜택'에 만족하지 못하는 부적응자가 되버리니까요. 위 내용은 산업에 종사하는 노동자의 입장에서, 근무환경의 측면에서 분석한 거지만 마크 저커버그처럼 회사의 의사결정이라는 권력구조의 측면에서도 '수평적이고 개방적인 문화'가 회사가 펼치는 전략일 수 있다고 봅니다. 다양한 조직구성원과 사회 생태계를 고려하고 배려하는 이미지를 형성한 기업이나 CEO는 '민주적인 리더'로 인식될 수 있죠. 어쩌면 현재의 빅테크 기업가들이 공개적인 자리에서 캐주얼한 옷을 입고, 대중의 앞에 자주 나서며, 혁신가의 이미지를 주로 가져가려는 것도 그런 연관이 있지 않을까 싶네요.