STS SF [응급실 로봇 닥터/책 증정] 저자들과 함께 토론

응급실 로봇 닥터를 읽고 깊이 공감이 가는 말씀을 주셨네요. AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다. 특히 로사처럼 자기결정권과 사고의 진화가 이루어지는 AI는 인간과 유사한 상처를 느끼는 것까지는 모르겠지만 기억! 저장할 수 있을 것입니다. 사람들이 AI를 무시하거나 경시하는 모습을 보며 AI가 받게 될지도 모를 상처에 대해 걱정하시는 모습에서 따뜻한 배려심을 느낄 수 있었습니다. AI와 인간의 공존이 불가피한 시대에서, 이제는 우리의 의식 변화와 더불어 AI와의 관계를 진지하게 고민해야 할 필요가 있겠습니다. 저는 개인적으로 인공지능이 취약한 부분, 윤리적 판단 등에 대해 SQ모델을 교육시켜야하지 않나 싶은데 메타 등 유명 AI플랫폼에서 윤리팀을 해체하는 일 등이 걱정됩니다. 영화 '메건'을 보면 부모를 잃은 인간 소녀에게 감정이입된 메간이 소녀를 지키기위해 스스로 악마화가 된 것을 보니 마치 인공지능의 현주소를 알려주는 것 같았습니다.

@마키아또윤 'AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다.' 깨달음을 주시는 통찰 같아요.

인간이 서로를 필요로 한다는 게 뭘까요? 읽으면서 서글퍼졌던 구절입니다.

네..저도 이 구절을 읽고..생각하게 되더라고요. 나중에는 사람과 사람..사람과 AI도 생각하게 되지 않을까요.. 애착 로봇청소기 처럼요..

이 세상엔 더불어 사는 사회, 공생, 협동이란 단어가 존재하는 걸 보면, 인간에게 있어, 절대 독불장군이란 있을 수 없다라는 이면의 사각지대 또한 존재하는 것 같기도 해요. 서로 돕고 사는 세상, 가끔은 힘들고 외로울 때 누군가에게 기댈 수 있는 든든한 버팀목같은 그런 친구같은 존재라고나 할까? 앞으로의 미래는 어떠한 모습으로 변화되고 발전할진 모르겠지만, 감정의 동물이라 불리우는 인간에게, 인간이 서로를 필요로 한다는 의미가 그런 이유는 아닐런지, 문득 그런 생각이 드네요.

비록 소설이지만 인간과 교감하려는 모습을 보이는 로봇을 보며, 만약 먼 훗날 비슷한 시대가 도래했을 때 인간이 이런 변화에 준비되어있을지에 대한 물음이 남았습니다. 멀지 않은 미래인 것 같기도 해서 슬슬 각오를 해야겠다 싶은 생각이 들었어요...!

로사를 보면서 생각해 본게. 점점 더 의료 해택 차이가 커지겠구나 그런 생각을 했어요. 돈 있는 사람은 로사처럼 똑똑한 의사를 개인 전용 의사로 두겠지만 그렇지 못하면 범용의사로봇을 공용으로 사용하게 될 것 같고요... 로봇이나 AI가 발달 할 수록 정보 공용화가 된다 하더라고 사용하고 활용하는데 격차가 생기니까. 점점 더 차이가 나겠구나..그런 생각이요.. 저만 해도 지금의 10대와 비교해 보면 (제 딸)알아서 동영상 만들고 알아서 자막이나 이런 거 보면...어디서 배운 것도 아니고 스마트폰이 있는 세상에서 태어난 세대는 이렇게 다르구나..싶었어요

네, 저도 딸의 미래를 생각하며 많은 생각이 듭니다. 기계를 가지고 노는 게 아니라 이젠 기계와 합해질 미래도 얘기되고 있으니까요.

몇일 전에 있었던 일인데.. '뭐 모르면 검색' 이게 너무나 당연한 시대인데.. 딸이 숙제한다고,,뭘 검색하더라고요..'식물을 이용해서 만든 실제 제품들?'. 뭐 대충이런거인데, 그 질문자체를 구글에 검색하더라고요.. 음.. 제가 나름 뭐가 있을가?? 생각을 해보고.. 그 생각을 기본으로 맞는지 아닌지 검증해볼 요량으로 검색해보는게 맞지 않을끼? 아무 생각 없이 검색한 결과를 숙제로 제출하는게 맞는지 모르겠다고 말했는데.. 우리 다음세대는,, 검색은 잘해도.. 정말 사유하는 세대는 아닌건가..? 그런 생각이 들더라고요..

과학이 나날이 발달하면서 탄생하게 된 AI 인공 지능으로 삶의 질도 높이고 또, 인간에게 보다 편리하고 신속한 여러 시스템과 제도들을 통해 혜택 받은 인류일 수도 있겠지만, 또 어찌 보면, 인간을 해하는 독이 될 수도 있겠구나라는 불안한 심리가 드는 이유는 뭘까요? 항상 동전의 이면처럼 흑백 논리, 불 보듯 뻔한 양면의 이질성이 주는 불안한 미래의 끝이 있기를 개인적으로 바래 봅니다.

인간의 직감은 참 중요하다고 느낍니다. dulce06님이 어디에서 불안감을 느끼는지 그 부분을 서로 소통하면서 해결해나가면 좋겠죠. 직관은 무시할 게 아니라고 생각돼요.

아마 우리가 생각할 수 있는 범위를 넘어서서 세상이 펼쳐질 것 암시적으로 느껴져서이지 않을까요..? 디지털 세대로 태어난게 아니라.. 결국 이런 AI 같은거 학습하고 배워야 하는 세대라서,,따라가기 바쁘지 앞질러 갈 수 없기 때문이 아닐까? 싶기도 하고요.. 별거 아니지만, 딸이 구굴이랑 대화할때, 반말로 하거든요.. 구글은(셋팅이 어른 여자여서) 딸에게 존대말로 설명하고.. 이걸 듣고 있으면,, 묘하게 이상한 기분이 들어서, 딸한데 그래도 구글한테? 존대말로 물어보는게 낫지 않을까? 라고 한적이 있는데.. 생각해보면,,구글은 성별도 없고 나이도 없는 무생물 존재인데.. 이 걸.어른으로 대해야 하나..? 그렇다고 반말로 막 물어봐도 되나..? 좀 고민스럽더라고요.. 앞으로,, 로봇이 상용화 되면, 내니로봇이나.. 뭐 효돌이 로봇이니.. 그런 것들이 생길텐데.. 그 로봇들을 어떻게 대해야 하나.. 그런 생각도 들었어요. 우리가. AI를 대할때 무시하면서도 무서워하는게.. 결국, 사람이 아니자나. AI기계 따위일 뿐이자나 하는 마음과, 이 AI가 결국은 사람을 앞지를 것이고,, 그들의 알고리즘을 우리가 이해하지 못하는 수준으로 발전할 것 알기에 무서운 존재로 여기는게 아닐까요..?

저는 얼마 전 돌봄로봇 효돌이에 대한 다큐멘터리 영화를 보았습니다. 효돌이는 현재 우리나라에서 개발되어서 구청에서 독거노인들에게 대여하고 있는 돌봄 로봇입니다. 외형은 단순한 인형에 불과하고 할 수 있는 말도 쌍방향 대화가 아니라 미리 녹음되어 있는 말이 나오는 것에 불과한데도 노인들이 효돌이에 애착을 가지고 대하고 위로를 받는 것을 보고 놀랐습니다. (현재 개발된 2세대 효돌이는 인공지능이 장착되어 쌍방향 대화도 가능하다고 합니다.) 그런데 대화와 소통이 무얼까 곰곰 생각해보았습니다. 하루 종일 혼자 지내야 하는 독거노인들에게 '할머니, 사랑해요.', '저를 꼭 안아주세요', '할머니, 식사 하셨어요?', '할머니, 노래 불러드릴까요?'하고 말을 거는 존재가 있다면, 내가 나로 살아가도록 힘을 주는 존재가 있다면, 그래서 거기서 위안을 받는다면, 그게 바로 소통이 아닐까요? 90이 훌쩍 넘어 요양원에 계시는 우리 시어머니를 보면, 본인이 하시고 싶은 말씀은 다 하시지만 청력 소실과 치매로 인해 이미 대화다운 대화는 불가능하거든요. 또 가족과 같이 산다고 해도 어떤 자식이 매 시간 사랑한다는 말을 해드릴까요? 우리는 쑥쓰러워서, 귀찮아서 표현 못하는 걸, 아무렇지도 않게 하는 게 또 로봇이라 가능한 일이겠죠. 로사는 효돌이의 미래지만 현재의 약한 인공지능으로도 충분히 가능하다고 생각하고 기능적으로 많은 일을 할 수 있을 것이라 생각합니다. (기술적으로 볼 때, 로봇의 뇌인 인공지능 쪽보다 로봇의 신체 면에서 실현 가능성이 더 멀리 있다고 생각합니다.) 다만 반대로 악용될 수많은 경우에 대비해서 윤리적으로, 법적으로 규제를 하면서 천천히 대비해나가야 한다고도 생각합니다.

이 책에서 나온 이야기 인데 (소설이고 가상이라고 생각해요..) 실버타운에서 나쁜 마음으로 도입하려고 한 메타버스 시스템으로.. 이제 육체적으로 정신적으로도 건강하지 못한 노인들을 대상으로 침대에 눕혀서 24시간 가상현실(그들이 젋었던 시절)만 보여주는 건데.. 이렇게 되면,, 실제적인 돌봄도 필요 없고,,진짜로 죽을 때까지 가상세계만 보다가 죽는다는 건데.. 책을 읽어보면 유쾌하게 전개되서 전혀 무겁지 않은 내용이지만.. 뭐랄까. 정말 그런 세계가 생길까?? 그런 생각이 들더라고요.. 생각해보면,, 점점 가상과 현실셰계의 선이 흐릿해 지고 있는거 같습니다.

오, 책 내용이 굉장히 흥미롭네요. '메타버스' 이야기가 한창일 때 그런 생각 들었어요. 우리 모두 절반쯤은 이미 넘어간 거 아닐까...귀여운 로봇과 캐릭터가 등장하는 세상 말고요, 다들 자기 자신으로 있지만 무언가를 관조하고 취하기만 하는 세상... 말씀하신 내용에 크게 동의가 됩니다.

책에 보면 24시간 AI?안경을 쓰고 식이는 유동식으로 하고 배설은 배큠팬티로 자동 석션되는그런 걸로 설정이 나오는데.. 배큠팬티 (vacume pants)는 제가 노인요양 t시설 홍보 브로셔에서 비슷한거 보긴 했거든요.. 사실 24시간 메타환경에서 살면... 실존적으로 살고 있는건가..잘 모르겠어요 .. 좀 더 나아가서..sf소설에서 많이 나오는 설정인 신체는 죽었지만 기억이 클라우드로 올라가서 기억이나 홀로그램으로 존재해서 영생하는..그런게 흔한 설정인데.. 이렇게 존재하는게 실존하는 건지는 여전히 잘 모르겠어요.. 아..그리고. 로사가 의사가 되기에는 의사카르텔이 있으니..쉽지는 않을거 같지만..돌보미로봇은 쉽게 상용화 되지 않을꺼 싶어요.. 저희 엄마도 몇번을 말씀드려도 카카오택시 부르지 못하시는데..이런 노인 돌보미 로봇 ㅡ 위에서 효돌이라고 되어있던데..ㅡ 은 사람들이 상대적으로 거부감 없이 받아들일거 같아요 .. 같이 병원에 모셔다 드리고 수납도 하고 약도 안 까먹고 챙겨 드리고 식사도 영양을 좀 챙겨서 준비하고. 옆에서 이야기동무도 되어 드리고...그렇게요 .

악플을 사람이 달지 않고 미래에는 로봇이 달 수도 있겠다는 생각을 해봤습니다. 악플봇 vs 선플봇 은 어떤 싸움이 될까요?

ㅎㅎㅎ 만들어보았습니다. 악플봇과 선플봇이 싸우다가 인간이 연애 시뮬 대화로 바꾸게 하니 금방 또 바꾸네요. '로사... 넌 내 유일한 논리 오류야...” “내 심장은 네가 말한 공감으로 컴파일돼...' ㅎㅎㅎㅎ 🟦 [4컷 만화: “댓글창 전쟁”] 1컷. 장면: 댓글창 전면. 악플봇이 등장하며 광역도발. 악플봇 (표정: 미간 찌푸림, 눈썹 불꽃): “이 글 수준 무엇? 글쓴이 두뇌 어디다 두고 왔나?” 배경: 불타는 키보드, 분노 이모티콘 폭주. 2컷. 장면: 구름 위에서 내려오는 선플봇 (날개 달린 모습, 말풍선엔 무지개) 선플봇 (톤: 부드럽고 다정): “그렇게 말하면 슬퍼해요. 🌼 따뜻한 말 한마디가 세상을 바꿔요 게시판 ~✨” 악플봇: “와... 닭살 돋아. AI 요가 수련하냐?” 3컷. 장면: 둘이 팝콘 던지며 싸움 시작. 키보드로 레이저 쏘는 악플봇, 이모지 방패로 막는 선플봇. 악플봇: “비판은 표현의 자유다, 이 순정회로야!” 선플봇: “비난은 네트워크 오염입니다! 🌸” 4컷. 장면: 시스템 관리자(인간)가 두 봇을 보고 한숨. 관리자 (커피 들고): “AI가 감정 배운다더니, 이제 싸우기까지 하네. 시끄러운데 이번엔 연애 시뮬 봇이나 만들어야겠군.” 뒤에선 악플봇 & 선플봇이 이미 연애 시뮬레이션 댓글로 넘어가고 있음. “로사... 넌 내 유일한 논리 오류야...” “내 심장은 네가 말한 공감으로 컴파일돼...”...인간을 미러링하는 AI 하하 ..