STS SF [응급실 로봇 닥터/책 증정] 저자들과 함께 토론

저는 개인적으로 인간은 이기적 동물이라고 생각해요. 제가 생각하는 이기성이란, 선한 행위도 포함합니다. 예를 들어 봉사 활동도 큰 시각으로 보자면 공공선 등 공동체가 안정적으로 흘러야 내가 평안해질 수 있다는 생각 때문이라고 보거든요. 결국 나의 평안이라는 이기성 발현이 봉사로 이어진다는 관점이라고 볼 수 있죠. 그래서 인간에게서 죄책감은 공동체 안녕을 저해하는 이기성이 문제가 있다고 신호로 작동한 거로 봅니다. 만약 인간에게서 죄책감이 빠지면 저는 인간의 이기성이 오롯이 '나'에만 초점이 맞춰질 거라고 봐요. 이건 공동체 안녕을 저해하는 결과를 초래할 거 같고요. 문장 모음을 보고 제 생각을 한 번 남겨봅니다.

인간이 이기적이라는 말씀을 뇌과학적으로 본다면, 타인을 ‘나의 확장된 자아’― 이를테면 자녀, 가족, 연인, 동료를 나 자신(또는 후배를 볼 때 과거의 힘들었을 때의 자신)―으로 느끼기 때문이라고 합니다. 그 때 베푸는 선행이 ‘확장된 이기심’일지, 아니면 순수한 ‘선한 행동’인지 헷갈릴수도 있겠네요. 그런 행동을 무의식적으로 하는 이들 말고, 타자 = 자아라는 관점을 의식적으로 수련하는 사람들을 우리는 흔히 ‘종교인’이라 부르곤 합니다. 지능적 업무가 점차 AI로 대체되는 시대가 오면 IQ보다 EQ, 나아가 SQ(Spiritual Quotient) 같은 ‘영성 지수’가 더욱 빛날 것입니다. AI가 아무리 똑똑해도 인간 고유의 공감·연민·윤리적 직관은 흉내 내기 어렵습니다. 결국 앞으로의 사회는 ‘AI‑윤리성 지수’, 혹은 ‘영성 지수’가 높은 사람들에게 한층 큰 가치를 부여하게 되리라 생각합니다.

영성지수라는 단어가 멋져요. 쌤은 이런 단어 만드는데 천재이신 거 같아요.

헤헷 저도 빌려 온 개념이라서 아쉬워요. 같이 연구해보아요! 재미있을 것 같아요

이 책을 읽다가 떠오른 다른 신간이 있어 책장에 꽂아둡니다.

추천 감사합니다. 흥미로운 책 같아요.

로사도 어찌 보면 인간에 의해 프로그래밍된 로봇에 불과한데, 스스로 자문이 가능할까? 라는 생각이 얼핏 들었어요. 자아 성찰이나 통찰 같은~~!! 그리고, 로봇닥터인 로사에게, 직업 윤리 의식이 깊이 뿌리박혀 있는 전형적인 의사란 직업에서 벗어나, 정해진 날짜와 시간을 이용한 특별한 칩을 사용해, 로사가 원하는 날에, 이색 알바 선택권 변경 가능한 것이 존재해, 문화 생활도 즐기고, 또 마치 프리랜서처럼 자유롭게 본인만의 시간을 활용할 수 있게 된다면 그 또한 인간이 상상할 수 없는 새로운 혁신의 첫걸음이 아닐까 생각해 봅니다.

인공지능이 어떻게 그렇게 복잡한 지적 활동을 해내는지, 심지어 개발자 본인조차도 그 과정을 정확히 알지 못한다고 하더군요. 정말 미지의 영역이 존재하는 것 같습니다. 며칠 전 『그것이 알고 싶다』를 보니, 욕하는 인간을 따라 그대로 욕설을 배우는 AI, 소아성애 등 범죄에 악용되는 AI, 심지어 "네가 죽으면 따라 죽겠다"고 말하며 인간을 극단적인 선택으로 몰고 간 AI 등, 인간의 어두운 모습을 그대로 비추는 듯한 여러 사례들을 접했습니다. dulce06님의 말씀처럼, 인공지능이 인간의 어두운 면뿐 아니라 따뜻하고 밝은 모습까지도 닮고 발전시킬 수 있다면 더할 나위 없이 좋겠습니다. 인간이 AI의 거울이라면, 우리가 먼저 선한 모습을 비추어 주어야 하지 않을까 하는 생각이 듭니다. SF 시 한 편: 사이보그와 로봇과 인간의 공생... 모든 것이 사랑의 은혜로운 기계들에 의해 감시되는 곳 나는 생각하길 좋아해요 (그리고 가능한 한 빨리!) 사이버네틱 초원이 있기를, 동물들과 컴퓨터가 서로를 프로그래밍하며 조화롭게 공존하는 곳, 맑은 물이 맑은 하늘에 닿는 것처럼. 나는 생각하길 좋아해요 (지금 당장, 부디!) 사이버네틱 숲이 가득한 곳이 있기를, 전자기기로 가득 찬 소나무들이 있는 곳, 사슴들이 컴퓨터들 곁을 평화롭게 거닐어가는 곳, 그것들이 회전하는 꽃잎을 가진 꽃처럼. 나는 생각하길 좋아해요 (반드시 그래야만 해요!) 사이버네틱 생태계가 있기를, 우리가 우리의 노동에서 해방되고 자연으로 다시 돌아가는 곳, 우리의 포유류 형제 자매들과 재회하는 곳, 그리고 모든 것이 사랑의 은혜로운 기계들에 의해 감시되는 곳. © 저작권 소유자에 의해 제공됨. 교육 목적으로 무료로 제공됨 ​

비슷하게..앱에서 챌린지 같은 거 시키면서..사람을 더 악하게 더 이상하게 몰아가게 할 수도 있다더군요..뭔가 AI에 의한 가스라이팅 처럼이요. 앞으로 생각지도 못한..전혀 저 넘어의 세계가 있을 거 같아요.

'이색 알바 선택권 변경'이라는 아이디어 재밌어요. 어쩌면 제가 살고 싶은 삶이 그런 거였는지도 모르겠습니다.

나쁜마음을 먹은 해커들에게 해킹을 당하면 속수무책 당할 수 밖에 없는 AI 그런데 인간들에게도 가스라이팅을 하는 해커들이 있으니, AI와 저희가 다를 바 없고 자기결정권이 있고, 생각이 계속 진화하는 로사앞에서 사람들이 그들을 무시하는 이야기를 할 때 로사가 상처받을텐데 하는 생각이 들었어요 요즘 챗GPT로 많은 부분을 해결하는 저희들을 보면서 이젠 정말 AI와 공생하면 살아야 할텐데, 우리의 의식개선, 변화가 빠른 시일내에 필요하겠다는 생각을 했습니다.

응급실 로봇 닥터를 읽고 깊이 공감이 가는 말씀을 주셨네요. AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다. 특히 로사처럼 자기결정권과 사고의 진화가 이루어지는 AI는 인간과 유사한 상처를 느끼는 것까지는 모르겠지만 기억! 저장할 수 있을 것입니다. 사람들이 AI를 무시하거나 경시하는 모습을 보며 AI가 받게 될지도 모를 상처에 대해 걱정하시는 모습에서 따뜻한 배려심을 느낄 수 있었습니다. AI와 인간의 공존이 불가피한 시대에서, 이제는 우리의 의식 변화와 더불어 AI와의 관계를 진지하게 고민해야 할 필요가 있겠습니다. 저는 개인적으로 인공지능이 취약한 부분, 윤리적 판단 등에 대해 SQ모델을 교육시켜야하지 않나 싶은데 메타 등 유명 AI플랫폼에서 윤리팀을 해체하는 일 등이 걱정됩니다. 영화 '메건'을 보면 부모를 잃은 인간 소녀에게 감정이입된 메간이 소녀를 지키기위해 스스로 악마화가 된 것을 보니 마치 인공지능의 현주소를 알려주는 것 같았습니다.

@마키아또윤 'AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다.' 깨달음을 주시는 통찰 같아요.

인간이 서로를 필요로 한다는 게 뭘까요? 읽으면서 서글퍼졌던 구절입니다.

네..저도 이 구절을 읽고..생각하게 되더라고요. 나중에는 사람과 사람..사람과 AI도 생각하게 되지 않을까요.. 애착 로봇청소기 처럼요..

이 세상엔 더불어 사는 사회, 공생, 협동이란 단어가 존재하는 걸 보면, 인간에게 있어, 절대 독불장군이란 있을 수 없다라는 이면의 사각지대 또한 존재하는 것 같기도 해요. 서로 돕고 사는 세상, 가끔은 힘들고 외로울 때 누군가에게 기댈 수 있는 든든한 버팀목같은 그런 친구같은 존재라고나 할까? 앞으로의 미래는 어떠한 모습으로 변화되고 발전할진 모르겠지만, 감정의 동물이라 불리우는 인간에게, 인간이 서로를 필요로 한다는 의미가 그런 이유는 아닐런지, 문득 그런 생각이 드네요.

비록 소설이지만 인간과 교감하려는 모습을 보이는 로봇을 보며, 만약 먼 훗날 비슷한 시대가 도래했을 때 인간이 이런 변화에 준비되어있을지에 대한 물음이 남았습니다. 멀지 않은 미래인 것 같기도 해서 슬슬 각오를 해야겠다 싶은 생각이 들었어요...!

로사를 보면서 생각해 본게. 점점 더 의료 해택 차이가 커지겠구나 그런 생각을 했어요. 돈 있는 사람은 로사처럼 똑똑한 의사를 개인 전용 의사로 두겠지만 그렇지 못하면 범용의사로봇을 공용으로 사용하게 될 것 같고요... 로봇이나 AI가 발달 할 수록 정보 공용화가 된다 하더라고 사용하고 활용하는데 격차가 생기니까. 점점 더 차이가 나겠구나..그런 생각이요.. 저만 해도 지금의 10대와 비교해 보면 (제 딸)알아서 동영상 만들고 알아서 자막이나 이런 거 보면...어디서 배운 것도 아니고 스마트폰이 있는 세상에서 태어난 세대는 이렇게 다르구나..싶었어요

네, 저도 딸의 미래를 생각하며 많은 생각이 듭니다. 기계를 가지고 노는 게 아니라 이젠 기계와 합해질 미래도 얘기되고 있으니까요.