『포스트휴먼이 몰려온다』 혼자 읽기

“ 효율성 극대화는 기업의 이익 증대와 국가의 군사력 증강을 의미한다. 이해할 수 없지만 효율성 높은 인공지능을 경쟁기업과 이웃국가가 채택한다면 다른 쪽 상대에게 선택의 여지는 없다. 우리는 점점 더 이해할 수 없고, 그래서 통제할 수 없는 인공지능을 생활 속으로 불러올 운명이다. ”

“ 나아가 우리는 점점 더 도구에 맞춤화된, 도구를 위한 생활방식을 당연하게 받아들이게 된다. 디지털 파일만 가능한 지원서 접수, 하이패스 차로만 있는 톨게이트처럼 우리는 기계가 처리할 수 있는 형태에 맞추는 방식으로 일상을 변화시킨다. 디지털 도구는 인간 친화적 사용자 환경을 지향하며 사람의 의사소통 방식을 모방한다. 인공지능 음성비서, 휴머노이드 감정로봇 등 사람처럼 언어와 표정으로 소통이 가능한 도구가 등장하고 있다. 사람의 모습과 의사소통 방식을 모방한 기계가 등장하면 사람은 이들 기계를 단순히 도구 이상으로 간주하고 관계를 심화시킨다. ”

“ 최근의 인공지능은 인식과 책임의 유일한 주체로 기능해 온 인간의 존재적 지위에 균열을 내고 있다. 인공지능은 인간과 같은 자율성과 의식을 갖추고 있지 못한 상태이지만, 인지적 능력을 통해 비인격적 주체로의 지위를 획득해 가고 있다. ”

“ 인공지능은 인간만을 인식과 사회적 행동의 주체로 여겨 온 오랜 인식과 사회 체계에 새로운 차원의 관점을 요청하고 있다. 사회혁명에 비견되는 전면적인 관점 전환과 새로운 사고의 틀을 요구한다. 근대 시민사회에 시민이라는 주체의 등장과 그에 대한 인식의 확산으로 인해, 사회계약론 논의가 전개되고 시민혁명이 일어난 것에 비길 수 있다. 시민혁명 이후 각 사회 세력의 참여와 논의를 통해 새로운 사회계약이 만들어지고 근대 시민사회의 기틀이 됐다. 새로운 기술 환경이 변화시키고 있는 현실과 미래에 적합한 거버넌스 시스템을 만들기 위한 근본적인 논의와 모색이 필요한 이유이다. 이는 구체적으로 비인격 주체의 자율성과 책임성을 어느 수준까지 인정하고 허용할 것인지, 그에 따른 변화를 기존 사회 시스템과 어떤 방식으로 조화시킬지에 관한 논의이다. ”

“ 강력한 도구와 기술을 소유하고 있는지, 작동 구조를 이해해 활용할 수 있는지 여부에 따라서 개인들 간의 격차는 커진다. 이제껏 경험해 보지 않은 개인 간 초격차의 불평등이 펼쳐지는 환경이 예고돼 있다. 또한 사회적 차원에서 비인격 주체의 등장은 기존 사회제도와 민주주의의 근간을 뒤흔들고 위협하는 존재의 출현을 의미한다. 기존 사회 시스템은 독립적 인간만을 자율적 판단과 행동의 주체로 삼고 설계되었다. ”

“ 우리는 작동방식이 드러나지 않는 첨단 기술에 대해 이해와 통제가 불가능한 상황이 되었지만 의존도는 더욱 깊어졌다. 하지만 기대와 달리 알고리즘은 신뢰하고 위임하기에 너무 위험하다는 게 우리가 알고리즘에 의존하는 정도가 깊어지면서 점점 선명하게 드러나고 있다. ”

“ 도구적 인간이 끝없이 효율과 편리를 추구한 결과, 더 강력하고 효율적인 도구를 갖게 되었지만 그에 대한 통제는 소수에게 넘어갔고 도구적 인간은 도구의 지배를 받는 종속적 처지가 되고 있다. 시민들의 교육기간이 늘어나고 정보화 도구가 편리해진 환경에서 도리어 허위·왜곡 정보의 파급력과 영향력이 커지고 있는 현상도 유사한 아이러니다. ”

“ 그런데 언제부터 우리는 예술가의 작업도 정치적 행위도 모두 다 노동으로 바라보게 되었을까? 아렌트에 의하면, 그것은 산업혁명 이후 자동화된 공장 시스템을 갖춘 근대 산업사회의 생산양식이 인간의 활동을 노동으로 집약시키는 데 성공하면서부터다. 산업화가 발달할수록 지속 가능한 가치를 창출하는 예술적 ‘작업’도, 차이와 다양성으로부터 공적 의미를 길어 내는 자유로운 토론 ‘행위’도, 소비품을 대량 생산하는 ‘노동’ 앞에서 점차 그 의미를 잃어 버리게 된다. 인간 활동의 모든 결과물은 노동 생산물과 마찬가지로 교환가치나 시장가치로 계산된다. ”

“ 질베르 시몽동은 『기술적 대상들의 존재 양식에 대하여』(1958)에서 노동으로 환원될 수 없는 기술의 본래적 모습을 밝혀 낸다. 그에 따르면, ‘기술’이란 인간이 자신을 둘러싼 세계와 관계 맺는 근본적인 존재 방식이다. 마이크로폰이 입력된 약한 음성신호를 크게 증폭하여 출력함으로써 강연자와 청중을 연결하듯이, 기술적 대상은 다양한 종류의 입력 에너지를 다른 형태의 출력 에너지로 변환하는 기능을 통해 이질적인 것들을 서로 관계 짓고 소통시키는 매개 역할을 한다. 인간은 항상 이러한 기술적 대상들과 더불어 기술적 대상들이 매개하는 세계 안에서 살아간다. ”

“ 시몽동은 ‘노동’을 이런 기술의 발전 과정 중 특정 시기에 두드러졌던 하나의 양상으로 축소한다. 기술 발달이 아직 연장이나 도구 수준에 머물러 있어서 기술적 대상들이 스스로 움직일 수 없었을 때, 그래서 인간이 직접 들고 움직이며 그것들에게 동력을 제공할 수밖에 없었을 때 하던 활동을 노동이라고 보는 것이다. 따라서 자동화된 기계들이 인간의 노동력 없이도 스스로 작업할 수 있게 되었다면 인간이 굳이 그런 노동을 고집할 필요가 없다는 것이다. ”

“ 시몽동은 노동보다 더 근본적이고 노동 자체를 포괄하는 더 큰 범주가 기술적 활동이라고 주장한다. 망치든 스마트폰이든 모든 수준에서 기술적 대상들을 발명하고 수리하고 개선하고 관리하는 활동의 총체가 바로 기술적 활동이다. 기술적 활동은 기계들을 사용하는 노동에 그치는 것이 아니다. 기계들의 작동 방식 및 기계들이 다른 기계들과 맺는 관계에 대한 세심한 주의와 이해, 기계들의 작동에 요구되는 자연적ㆍ기술적ㆍ인간적 조건들에 대한 다각적 인식 등 상당한 범위에서 앎의 능력도 포함하는 것이다. ”

“ 따라서 시몽동은 자동화된 기계들이 노동을 대체하는 것이 인간 소외의 원인이라고 보지 않는다. 산업혁명 시기, 기계들이 인간의 일자리를 빼앗는다고 기계들을 부수었던 러다이트 운동(1811)도 사실은 노동 패러다임에 갇혀 있던 인간이, 기술의 진화를 제대로 이해하지 못하고, 발전한 기술적 대상들과의 적합한 관계 방식을 찾지 못해서 일어난 사건으로 그는 이해한다. ”

“ 장인이 자신의 연장들을 손에 쥐고 작업할 때, 즉 노동할 때, 느꼈던 인간과 기술적 대상 사이의 일체감은 그 연장들이 자동화된 기계로 발전하게 되자 부서진다. 마치 심리생리학적으로 연속적이었던 내 품 안의 자식이 다 자란 성인이 되어 자립하게 되었을 때 부모들이 느끼는 서운함처럼, 자신의 손을 떠난 자동기계들 앞에서 인간은 소외감을 느낀다. 이런 소외감은 기술적 대상들을 생산수단으로 소유한다고 해서 사라지는 것이 아니다. 성인이 된 자식과 부모가 예전과는 다른 방식으로 관계를 회복하는 것이 자연스럽듯이, 자동화된 기계들과 인간도 다른 방식의 관계로 부서진 연속성을 회복해야 하는 것이다. 다시 말해 노동 소외의 문제는 기술의 자동화 그 자체에 있는 것이 아니라 기술성의 발달 수준에 맞추어 인간과 기술의 적합한 관계 방식을 찾아내는 것에 그 해법이 있다. ”

“ 베르나르 스티글레르는 『고용은 끝났다, 일이여 오라!』(2015)에서 노동으로부터 ‘고용’과 ‘일’을 구분한다. 통상 노동은 보수와 상관없이 자신이 할 수 있는 ‘일’의 의미도 담고 있지만, 동시에 그 일의 가치를 임금으로 계산해야 하는 ‘고용’의 현실과 분리될 수 없는 것이기도 하다. 그러나 ‘일’과 ‘고용’은 엄연히 다르다. ‘일’이라는 것은 보수를 받든 안 받든 나의 고유성과 독특성을 실현하는 활동이면서, 동시에 나의 활동을 통해 내 주변의 동료들이나 일반 시민들과 같은 다른 사람들의 고유한 삶을 실현하는 데도 이바지할 수 있는 활동을 말한다. 반면 ‘고용’은 단지 노동자들이 급여를 받는 활동일 뿐이다. 고용을 통해서 진정한 일을 실현할 수도 있지만 그런 경우는 매우 드문 것이 현실이다. 현대인들 대부분이 돈을 벌기 위해 고용되어 하는 일과 돈이 되지 않는 진짜 자기 일을 구분하고 있다. ”

“ 스티글레르의 진단에 따르면, 현대 사회는 노동 중심 사회를 넘어서 고용 중심 사회로 이행했다. ‘인간은 모름지기 노동을 해야 인간답게 살 수 있다’는 것에서 ‘인간은 고용이 되어야만 살아갈 수 있다’는 것으로 삶의 패러다임이 바뀌면서 노동에 담긴 순수한 ‘일’의 의미마저 해체되고 있다. 아이러니하게도 고용 중심 사회는 완전 고용을 통해 모두에게 안정적인 삶의 터전을 보장해 주는 방향이 아니라 오히려 모두를 프롤레타리아화하면서 궁핍함을 강화하는 방향으로 가고 있다. ”

“ 소비 동물이 된 현대인들은 각자의 개성과 고유한 욕망에 따라 자신과 타인의 삶에 기여하는 긍정적이고 생산적인 ‘일’을 하는 것이 아니라, 고도 산업화된 자본과 매스미디어에 의해 충동화된 소비 욕구를 충족시키기 위해 어쩔 수 없이 고용된 노동을 할 뿐이다. 고용된 노동은 자신이 하고 있는 일이 무엇이며 어떤 의미와 가치가 있는지 관심도 이해도 없는 아이히만과 같은 ‘무사유 노동자’를 양산하며 ‘무관심의 경제’를 구축한다. 무관심의 경제란 경제 주체인 개인들이 그들이 속한 공동체에 아무런 관심도 기울이지 않고 공동체로부터의 보호나 관심도 전혀 기대하지 않는, 한마디로 ‘각자 도생’의 경제 시스템이라고 할 수 있다. ”

“ 소비 자본주의와 결합된 디지털 자동화 기술은 사용자 맞춤형 광고 기법과 행위 유발형 마케팅으로 우리 모두를 아무 생각 없는 자가 소비 기계로 만들고 있다. 내 정보로 데이터를 만들고 그 데이터를 다시 내가 소비하는 네트워크 시스템 안에서 그 시스템을 구성하는 하나의 기능적 요소에 불과한 존재. 스티글레르는 이런 자동화 사회의 지배원리를 ‘알고리즘 통치성’이라고 부른다. ”

“ 고용이 사라지고 임금노동이 불가능해진다면 어떻게 돈을 분배할 것인가? 스티글레르는 실업을 없애는 가장 좋은 해결책이 바로 고용을 없애는 것이라고 주장한다. 그는 향후 10년 내에 냉혹하게 불어닥칠 고용 한파야말로 ‘무관심의 경제’에서 ‘기여경제’로 경제체제를 바꾸어야 할 필연성을 뒷받침해 준다고 본다. 사용가치나 교환가치보다 실용가치를 창출하자는 것이다. ‘실용가치’는 시장에서 일회적인 상품으로 소비되는 ‘노동’ 생산물에 붙는 것이 아니라, 지속적으로 공유되고 확산되고 계승되면서 더 나은 가치들을 창출할 수 있는 ‘일’의 생산물에 붙는 것이다. ‘무관심의 경제’가 경쟁과 소비를 가속화하고 냉혹한 자본 논리 외에 나와 타인의 삶에 대한 어떠한 관심도 없는 체제라면, ‘기여경제’는 자신의 앎을 나누고 그 혜택을 함께 누리면서 더불어 살아가는 삶을 지향하는 체제다. ”

“ 기여경제 안에서는 고용과 임금노동으로 살아가는 것이 아니라 실용가치를 창출하는 일과 기여소득으로 살아간다. ‘기여소득’은 실용가치를 창출하는 일, 즉 자신의 잠재성을 실현하여 사회적으로 가치 있는 앎의 형태를 발명하는 사람들에게 지급되는 소득이다. 가령 프리웨어는 모든 사용자들에게 그 사용과 연구, 수정, 복제, 배포가 기술적, 법적으로 허용되어 있는 소프트웨어다. 이 개방된 소프트웨어는 모든 사람들의 기여에 의해 지속 보완됨으로써 사용자 모두의 앎을 발전시키는 데 기여한다. 이런 프리웨어 개발자들에게 또는 새로운 문화적 가치를 창조하는 비정규직 예술인들에게 기여소득 지급이 가능할 것이다. 기여소득은 임금이나 실업 수당이 아닌 방식으로, 다시 말해 고용이 아닌 일의 관점에서 부를 분배하는 방식이다. ”