STS SF [응급실 로봇 닥터/책 증정] 저자들과 함께 토론

벚꽃 아래 책 읽기 좋은 날이었습니다. 벚꽃이 로사와 어울리는지 생각하면서요. 책은 벌써 갖고 있었는데 때를 놓치고 이제야 읽었습니다. 잘 읽었습니다.

사진이 멋지네요. 저도 오늘 결혼식 참석 겸 겸사겸사 나가야 하는데요, 돌아오는 길에 벚꽃길 들러 구경하려 합니다. 주말에 비가 온다고 하니 아마 화려한 벚꽃은 오늘이 마지막이 아닐까 싶네요.

사람들이 가진 로봇에 대한 인식을 나타낸 '의료 로봇에게는 팔과 눈이면 충분하다고.' 이 부분에서 IBM의 인공지능 의사 왓슨을 떠올렸습니다. 우리나라 병원에서도 2016 년쯤 암 진단을 위해 도입되었다는 이야기는 보았는데, 다시 찾아보니 기대에 미치지 못해 사업을 접었다 합니다. 데이터 적용의 문제, 법적인 문제, 환자들의 동의를 구하는과정, 비용 문제 등이 복합적으로 작용하여 진단 정확도가 떨어지는데 영향을 미쳤다는 의견도 있네요. 로사가 처한 상황도 이런 상황이었을 거라 생각합니다. 어디에나 인공지능 로봇이 있지만, 사고나 범죄의 위험 때문에, 아니면 불편한 골짜기 때문에 아직 사람들의 신뢰를 얻지 못하는 사회. 기술은 발전했어도 그 기술이 사회에 직접 적용되어 사람들이 받아들이는 데까지는 충분한 논의와 안전장치를 포함한 제도 확립이 우선되어야 하겠지요. 그리고 인공지능을 올바로 쓰기 위한 사람들의 선의와 도덕성이 전제되어야 하고요. 그런 점에서 생성형 인공지능의 성능이 급격히 좋아진 이때 이런 논의는 더 이상 미룰 수 없다고 생각하는데, 여러 산업과 경제적인 면과 연결되어있다 보니 전체를 아우르는 이런 논의가 현실에서는 부분적으로 이루어질 뿐 영화나 소설에서 처럼 눈에 띄게 보이지 않고 더디게만 느껴집니다. (물론 제가 미처 보지 못한 것일 수도 있고요.) 이러한 생각을 안고,소설 속 로사가 미래이지만 지금처럼 로봇 의사에 대한 저항을 가진 사회 속으로 뚜벅뚜벅 걸어 들어오는 과정을 살펴보며 읽었습니다.미래의 사고 실험으로서의 SF 작품의 역할이 더욱 중요한 때 인 것 같습니다.

맞습니다. 사실 이제는 과거와 다른 생각을 할 때가 된 것 같아요. 실제 의과대학 교육을 할 때에도 실력있는 의사상에 대한 위의 대사와 유사한 생각이 과거에 많았어요. 그런데 막상 AI가 정말 유능해지니 많은 새로운 고민들이 생겨나고 이것이 의사라는 직업과 우리가 해야할 일들, 그리고 배워야할 것들도 바꿔놓고 있는 기분이에요. 그런 고민들도 이 책에서 녹여놓고 싶었어요

네, 그런 부분이 너무 재미있습니다. 창작 분야에도 AI가 참여하니 인간이 '창작자'에서 '감독'으로 역할 변질이 일어나고 있다는 분석도 있는데 모든 분야에서 이런 일들이 일어나는 것 같습니다.

네, 이력서 검토할 때 이미 많은 인간 관리자들이 개인 SNS를 참고하는데, AI가 그러지말라는 법은 없으니까요.

저도 이 문장에서 많은 생각을 하게 되더라고요. 인간의 최소 결정권과의 차이점부터, 나는 결정할 때 무엇에 염두하는가, 까지 이런저런 생각이 많더라고요.

미래인데도 '방전'을 걱정해야 한다는 것 (81쪽)이 놀랍게도 잘 와 닿네요. 지금 혁신이 일어날 곳이 '배터리'분야라고 하니까요.

초능력자나 로봇을 다룬 스토리에서는 배터리 또는 초능력의 한계 설정을 꼭 설정합니다. 배터리나 새로운 에너지원(문명의 척도)의 개발 이슈는 스토리의 세계관 변화에 영향을 줄 정도로 중요해지는 것 같아요(예시: 트랜스포머 세계관-행성 간 이동 능력 있는 문명. 배터리 문제 해결) 수시로 방전될 염려를 가진 로사는 아무래도 인간에게 많이 의지할 수 밖에 없는 세계관을 가지겠죠. 배터리 분야에 대해서 짚어주셔서 감사합니다. 흥미돋네요. 더 공부해보겠습니다!

오, 그렇네요. 수시로 방전이 되니 인간에게 많이 의지하게 되겠군요. 생각 나눠주셔서 감사합니다.~~

로봇이 악령 빙의 현상이라는 용어도 재미있습니다. 요런 소재로 저도 이야기를 써보고 싶다는 생각이 들었어요. 사람화 프로젝트라는 단어도 생각거리를 던져 줬습니다. 로봇의 학습은 사람화라고 부르는 게 합당한가? 부터 생각이 여러 가지치기를 하더라고요.

어린왕자의 서사를 빌려온 건, 로봇과 인간이 서로를 ‘길들이고, 길들여지는’ 관계일 수 있다는 생각 때문이에요. 한쪽이 일방적으로 닮아야 하는 관계가 아니라, 서로의 방식과 감정을 이해하며 함께 변화해가는 공진화가 더 중요하다고 느꼈거든요. 처음엔 낯설지만, 점점 소중해지고 결국 서로에게 유일하고도 의미 있는 존재가 되어가는 이야기처럼요. 물론 지금 단계의 로봇—예를 들면 아무 의도도 욕망도 없는 로봇 —에게 존중을 보이는 것이 무슨 의미냐고 하실 수도 있어요. 하지만 저는 우리가 로봇을 어떻게 대하는지를 결정하는 게 앞으로 훨씬 더 정교해지고 자율성을 갖게 될 로봇이 인간을 어떻게 대하게 될지를 좌우할 수 있다고 생각해요. 그리고 그 로봇이 인간을 대하는 태도를 다시 다음 세대 인간이 학습하고 모방하게 될지도 모르죠.(예를 들어 AI선생님/상담자/친구가 같은 반 인간 친구나 부모에 대해 평가하는 것을 받아들이는 열 살 어린이의 모습 ) 결국, 기술을 대하는 우리의 태도가 미래의 인간관계와 사회 전반에 영향을 줄 수 있다고 믿습니다. 그러니까 로봇에게도 윤리와 책임을 가르치고 우리도 신뢰 관계에 대한 에티켓을 지켜야 하지 않을까...하는 그런 세계관입니다.

히포크라테스 선서를 찾아서 비교했더니 의사로서 사람 의사와 동일성도 있고, 로봇으로서의 특징도 있는 원칙이더라고요. 재미있었어요.

맞아요. 히포크라테스 선서를 어느 정도 차용해서 만든 원칙입니다. 로봇 3원칙도 그렇고 SF에서 만든 원칙들이 과학기술계에서 광범위하게 이용되는 경우도 많더라고요. 작가님의 다른 원칙들도 만나보고 싶어요. 기대!

기술이 눈부시게 발전한 미래에도 인간은 여전히 아름다운 외모의 영향력 아래 놓여 있군요. 외형적인 제약에서 벗어날 수 있는 칼리 같은 기계 장치가 등장했을 법도 하지만, 과연 얼마나 많은 이들이 선뜻 그것을 선택할지는 미지수라 씁쓸한 기분이 드네요. 어쩌면 먼 미래에도 비가 내리면 사람들은 변함없이 우산을 쓰고 다니는 풍경이 이어질지도 모르겠습니다. ^^