인간이 다른 인간에게 시키고 싶지 않은 일들을 하기 위해 만들어졌다는 걸 깨달은 거지. 인간은 비싸고 느리지만 로봇은 싸고 빠르니까.
『휴먼, 어디에 있나요?』 p.372, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
[엘리/책 증정] 장강명 극찬 "벌써 올해의 소설" <휴먼, 어디에 있나요?> 함께 읽기
D-29
만물은 다른 무엇인가를 위해 존재하는 것이 아니네
『휴먼, 어디에 있나요?』 p. 373, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
소설 읽으며 든 의문점 두 가지입니다.
1) 언찰스는 왜 더 웡크의 정체를 의심하지 않았을까요? 고사양 시종 로봇인 언찰스는 더 웡크를 보자마자 알아챘을 것 같은데요.
2) 정보의 저장 이라는 막중한 임무를 부여받은 사서 로봇들이 왜 그토록 어이없는 방식으로 데이터를 저장했을까요? 똑똑한 사람들에 의해 만들어졌고 역시 똑똑한 AI의 명령에 따르는 로봇들이 말이죠.
화제로 지정된 대화
안녕하세요! 4주차가 시작되었습니다. 이야기의 끝을 향해 가고 있는데요, 먼저 읽은 독자들은 결말이 ‘충격적’이라고 많이들 말씀해주셨습니다. 함께 읽어 나가시는 북클러버님들의 반응이 궁금합니다:)
📌5/20(수) ~ 5/26(화)
5부 D4NT-A & 에필로그
담당 편집장님도 함께 해주시는 클러버분들과 나누고 싶은 이야기를 전해주셨습니다 ☺️
💬 <휴먼, 어디에 있나요?>는 상류층 인간들을 섬기는 휴머노이드 시종이 자기 주인을 죽였다는 흥미로운 첫 설정 때문에 편집자로서 호기심이 생긴 작품이었는데요, 읽다보니 존재의 목적을 놓지 못하는 언찰스가 그저 너무 애처로웠어요. 다음 장면이 궁금해서 계속 책장을 넘기면서도 웃어야 할지 울어야 할지 모르겠더라고요. 존재의 의미를 잃었다는 생각이 들 때 너무 막막하고 무력해졌던 것 같아서, 로봇임에도 이입이 됐던 것 같아요. (하는 행동들이 좀 귀엽기도 했고요.) 그런 식으로 소설을 읽어나가다보니 어느새 언찰스에게 정이 흠뻑 들어버렸는데요,
여러분에게도 언찰스가 점점 인격적인 또는 윤리적인 존재로 느껴졌는지 궁금해요.
혹은 끝까지 (프로그래밍만 따르는) 기계적인 존재로만 다가온 분들도 있었을 것 같은데, 감상을 들려주시면 감사하겠습니다. 아, 그리고 웡크의 실체(!)를 언제 눈치채셨어요? 저는 설마 이걸 노렸을까 싶어서 후반부까지 못 믿었거든요 ㅎㅎㅎ
한 달 간 꾸준히 이야기에 대해 논의해주신 클러버 분들께 깊이 감사드립니다. 남겨주시는 리뷰들 잘 살펴보고 있습니다 ^^ 5/26(수)에 결말에 대한 감상을 작성해주시면, 우수 리뷰어분들에게는 엘리 신간 도서를 선물로 드립니다!
윙크의 실체는 처음부터 눈치채고 있었습니다. 다만 3장에서 갑자기 '그녀'로 지칭되는 부분에서 '역시' 같은 생각도 들고 '어라?' 같은 생각도 들었네요. 여자가 아님 남자 같다는 인상을 받았었거든요.
지금 3장까지 읽었는데 작품 속 세상이 왜 이렇게 변한 걸까 하는 궁금증이 드네요. 로봇들의 융통성 없는 행동이 재밌기도 하구요.
궁금한 점은 로봇은 전기 충전을 해서 그 동력으로 움직이고 생각할 텐데, 세상이 이렇게 망가졌어도 발전소는 멀쩡한 건가? 그런 생각이 들었어요. 주인공이 충전하는 장면이 한 번도 안 나와서 좀 의아스럽기도 했고요. 한 자리에 가만히 서 있는 그 많은 로봇들이 그렇게 시간이 오래 지났는데도 꺼지지 않고 여전히 반응을 한다는 점도 의아스러웠네요. 태양광 전지를 달고 있는 건지...그럼 센트럴 관리소의 복도에서 관리자 방 앞에 줄 서 있던 로봇들은 어떻게 충전을 하는 건지...
그럼 지금부터는 언찰스다.
『휴먼, 어디에 있나요?』 2부. P.215, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
2부는 찰스가 시스템적으로 소속된 공간에서 새로운 공간을 접하는 변화를 접하는 파트면서, 찰스, 미지정 시종 유닛, 언찰스로의 정체성의 변화를 겪는 모습이었습니다. 처음 목차만을 접했을 때는 단편처럼 구분된 내용일 줄 알았지만, 여정에 따라 모티브가 된 소설적 단초 를 잘 활용한 게 느껴졌습니다.
“ 대체 불가능한 과거의 전통이 사라지는 것을 두고 볼 수 없었던 저희 보존 농장 프로젝트는, 지난 세기 들의 인간 환경을 재현하고 보존함으로써 이러한 전통과 관습이 사멸하지 않도록 하는 과업에 착수했습니다. ”
『휴먼, 어디에 있나요?』 3부 P.208, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
3부에서는 보존 농장의 모습들을 묘사하고 있습니다. 전통은 과거의 기억으로 상징되는 영역인데, 언찰스가 박사의 비밀번호를 얻고, 컴퓨터의 기록을 말소하면서 박사의 명령체계를 상쇄하는 부분이 인상적이었습니다. 기억과 다르게 데이터로서 판단한다는 지점이, 웹툰 하우스키퍼가 생각이 났습니다. 좀비바이러스와 유사한 사태가 발생했을 때 생체데이터를 기반으로 인지하던 가사로봇이 주인을 버리고 자신의 주인을 찾는 대목이 떠올랐습니다.
“ “정의란 인간이 만든 것이며, 인간이 원하는 대로의 의미를 갖고, 인간이 만들지 않는다면 아예 존재하지 않는 것입니다.” 언찰스가 말했다. “저는 ‘다정함과 질서정연함’이 더 나은 목표라고 제안합니 다. 세상은 한때 다정하고도 질서 정연했을 가능성이 있습니다. 다시 그렇게 될 가능성도 있습니다. 어쩌면 당신이 그렇게 만들 수도 있습니다.” ”
『휴먼, 어디에 있나요?』 588쪽, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
이 소설이 주는 핵심 메시지로 보여 문장 모음했습니다.
영화 <터미네이터>와 같은 인공지능의 인간에 대한 공격은 있을 수 없다고 주장하는 사람들이 있지요. 마치 로봇의 1법칙처럼 인간에게 해를 입히는 행위를 해선 안 된다는 제약이 인공지능에게 걸리기 때문이라고 근거를 댑니다. 이에 대해 반박을 하는 사람들은 인간들이 스스로 해를 입히는 행위(예를 들면 환경파괴, 인종차별 등)를 하는 것을 목격한 인공지능이 인간을 제거하는 것이 더이상 인간에게 해를 입히지 않는 가장 합리적이자 정의로운 결정이라고 생각할 수 있다고 주장합니다.
이 소설에서도 인공지능이 ‘정의’를 고지식하게 해석하여 인류를 파멸로 몰아가고 있었고요, ‘다정함과 질서 정연함‘이라는 다소 낭만적인 대안을 소설에서는 제안하고 있습니다. 과연 현실에서는 어떤 방향으로 인공지능이 진화를 해나갈지 궁금해집니다.
저도 이 부분에 밑줄 그었습니다. 요즘 ‘다정함’이라는 단어가 여기저기에서 자주 언급되는데, 많은 이들이 다정함의 부재와 또 가치를 동시에 생각하는 것이겠지요.
엘로이즈 사서님, 본인은 어디에서 목적을 찾을 수 있겠습니까? 결과적으로 도서관을 향한 그의 질문은 더 윙크의 질문만큼이나 거대하고 실존적이었다.
『휴먼, 어디에 있나요?』 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
4장 읽다가 보게 된 문장입니다. 이 소설의 주제를 표현하는 것 같네요. 결말까지 더 읽어봐야겠지만요. 아무튼 사람도 때때로 저런 질문을 던진다는 점에서 이게 꼭 로봇 이야기만을 다룬다고 볼 수는 없을 것 같습니다. 아니면 사람도 결국은 로봇이거나요.
마지막 옮긴이의 말까지 읽고 책을 덮었습니다. 옮긴이의 말처럼 "시의적절한 풍자의 수준을 넘어 숫제 예언의 영역" 이라는 말에 깊이 공감을 했습니다. SF 문학과 영화를 볼 때면 창작자들의 상상력에 놀라며 흥미로운 분야라고 생각했지만, 인공지능의 놀라운 발전 속도를 보면 단순한 호기심과 흥미로 볼 수 없게 되었습니다. 인간의 능력을 넘어선 한계가 보이지 않는 효율성에 감탄보다는 무서움을 느끼는 요즘입니다.
그런 시대를 살아가는 우리에게 이 책이 건네는 많은 메세지가 무겁게 다가오는 듯합니다. 인류가 만든 로봇, 로봇으로 파괴되는 인류 문명... 이런 극한의 상황을 소설을 빌려 이제 무겁게 생각해 봐야할 때가 아닌가 싶습니다.
남은 시간동안 제시하신 의문점들을 하나씩 읽어보며 저의 생각도 정리해볼까합니다.
그리고 앞서 말씀하신 대로 이 책에서 제시하는 "다정함과 질서 정연함"이라는 대안에 너무 현실성이 없지 않나라는 생각을 하기도 했습니다.
완독 후 독서모임에 도서를 가지고 갔습니다. 모임에서 혼모노가 있었는데, 겉과 속의 모순성을 다루는 단편집이라는 점에서 이 도서가 지닌 인간이 없는 시스템에서의 모순성이 연결지어져서 생각되었습니다. 4부의 도서관을 읽으면서 도서관이 하나의 이상향으로써 5부에 이르러 나올 줄 알았는데, 2부의 데이터 압축소처럼 아카이빙이라는 목적하에 백지와 같은 어떠한 데이터도 될 수 있는 무의미한 내용을 담고 있었습니다. 보르헤스가 포스트 모더니즘을 선두한 인물인 만큼 어떠한 데이터도 될 수 있는 00000/ 111111로 도배된 데이터가 이를 함의한다고 느껴졌습니다.
“ 우리가 이 긴 과업을 시작했을 때, 우리의 수집 부대가 최선을 다했음에도 우리가 회수할수 있는 것보다 훨씬 더 많은 지식이 초단위로 소실되고 있다는 것이 명확해졌네. 게다가 전 세계가 몰락하는 격동속에 남겨진 파편들을 단지 부분적으로 기록해봤자 무슨 소용이 있겠는가? 그러는 대신 우리는 모든 데이터를 이렇게 보편적인 방식으로 분류한다면 도서관이 그 안에 담긴 정보의 총합 이상이 될 수 있다고 판단했네. ”
『휴먼, 어디에 있나요?』 4부 사서로봇의 발화 중 p.379, 에이드리언 차이콥스키 지음, 김상훈 옮김
문장모음 보기
4장에 이어 5장 읽는 중입니다. 도서관, 전쟁과 관련된 로봇들의 이야기가 재미있네요. 양쪽 다 주어진 목적함수에 따라 맹목적으로 행동한다는 점이 인상 깊었습니다. 우리 언찰스는 이제 스스로 목적함수를 설정할 수 있을지 궁금하네요.
다행히 독서 모임 기간이 끝나기 전에 완독했습니다. 세상이 무너진 것이 결국 인간의 명령을 맹목적으로 수행한 결과였다는 것이 반전이면서도 필연적인 결과로 느껴지네요. AI가 알 수 없는 이유로, 혹은 목적함수에 있지도 않은 고민에 빠져서, 자의식의 생겼다는 종류의 이야기가 아니어서 좋았습니다. 그런 종류의 이야기는 작위적이고, 따라서 공감이 되지 않아서요. 우리가 AI를 대하고 그것을 제작할 때 어떤 마음가짐으로 임해야 하는지를 새삼스레 알게 된 작품이었습니다. 로봇들의 꽉 막힌 언행 덕분에 인간 사회의 모순과 부조리를 다시 한번 엿보게 되기도 했고요. 재미있는 작품이었습니다.
5장과 에필로그를 완독했습니다. 신이라는 존재와의 조우, 신의 조언에 따라 마주하는 인간부족과, 전쟁기계들의 이야기 이후 신을 마주하고 내리는 결말까지 잘 짜여진 글이라 생각되었습니다. 0과 1과 참 거짓으로 나눌 수 없음을 이 책과 결론이 시사하는 듯 합니다.
글타래
화제 모음
지정된 화제가 없습니다