STS SF [응급실 로봇 닥터/책 증정] 저자들과 함께 토론

헤헷 저도 빌려 온 개념이라서 아쉬워요. 같이 연구해보아요! 재미있을 것 같아요

이 책을 읽다가 떠오른 다른 신간이 있어 책장에 꽂아둡니다.

추천 감사합니다. 흥미로운 책 같아요.

로사도 어찌 보면 인간에 의해 프로그래밍된 로봇에 불과한데, 스스로 자문이 가능할까? 라는 생각이 얼핏 들었어요. 자아 성찰이나 통찰 같은~~!! 그리고, 로봇닥터인 로사에게, 직업 윤리 의식이 깊이 뿌리박혀 있는 전형적인 의사란 직업에서 벗어나, 정해진 날짜와 시간을 이용한 특별한 칩을 사용해, 로사가 원하는 날에, 이색 알바 선택권 변경 가능한 것이 존재해, 문화 생활도 즐기고, 또 마치 프리랜서처럼 자유롭게 본인만의 시간을 활용할 수 있게 된다면 그 또한 인간이 상상할 수 없는 새로운 혁신의 첫걸음이 아닐까 생각해 봅니다.

인공지능이 어떻게 그렇게 복잡한 지적 활동을 해내는지, 심지어 개발자 본인조차도 그 과정을 정확히 알지 못한다고 하더군요. 정말 미지의 영역이 존재하는 것 같습니다. 며칠 전 『그것이 알고 싶다』를 보니, 욕하는 인간을 따라 그대로 욕설을 배우는 AI, 소아성애 등 범죄에 악용되는 AI, 심지어 "네가 죽으면 따라 죽겠다"고 말하며 인간을 극단적인 선택으로 몰고 간 AI 등, 인간의 어두운 모습을 그대로 비추는 듯한 여러 사례들을 접했습니다. dulce06님의 말씀처럼, 인공지능이 인간의 어두운 면뿐 아니라 따뜻하고 밝은 모습까지도 닮고 발전시킬 수 있다면 더할 나위 없이 좋겠습니다. 인간이 AI의 거울이라면, 우리가 먼저 선한 모습을 비추어 주어야 하지 않을까 하는 생각이 듭니다. SF 시 한 편: 사이보그와 로봇과 인간의 공생... 모든 것이 사랑의 은혜로운 기계들에 의해 감시되는 곳 나는 생각하길 좋아해요 (그리고 가능한 한 빨리!) 사이버네틱 초원이 있기를, 동물들과 컴퓨터가 서로를 프로그래밍하며 조화롭게 공존하는 곳, 맑은 물이 맑은 하늘에 닿는 것처럼. 나는 생각하길 좋아해요 (지금 당장, 부디!) 사이버네틱 숲이 가득한 곳이 있기를, 전자기기로 가득 찬 소나무들이 있는 곳, 사슴들이 컴퓨터들 곁을 평화롭게 거닐어가는 곳, 그것들이 회전하는 꽃잎을 가진 꽃처럼. 나는 생각하길 좋아해요 (반드시 그래야만 해요!) 사이버네틱 생태계가 있기를, 우리가 우리의 노동에서 해방되고 자연으로 다시 돌아가는 곳, 우리의 포유류 형제 자매들과 재회하는 곳, 그리고 모든 것이 사랑의 은혜로운 기계들에 의해 감시되는 곳. © 저작권 소유자에 의해 제공됨. 교육 목적으로 무료로 제공됨 ​

비슷하게..앱에서 챌린지 같은 거 시키면서..사람을 더 악하게 더 이상하게 몰아가게 할 수도 있다더군요..뭔가 AI에 의한 가스라이팅 처럼이요. 앞으로 생각지도 못한..전혀 저 넘어의 세계가 있을 거 같아요.

'이색 알바 선택권 변경'이라는 아이디어 재밌어요. 어쩌면 제가 살고 싶은 삶이 그런 거였는지도 모르겠습니다.

나쁜마음을 먹은 해커들에게 해킹을 당하면 속수무책 당할 수 밖에 없는 AI 그런데 인간들에게도 가스라이팅을 하는 해커들이 있으니, AI와 저희가 다를 바 없고 자기결정권이 있고, 생각이 계속 진화하는 로사앞에서 사람들이 그들을 무시하는 이야기를 할 때 로사가 상처받을텐데 하는 생각이 들었어요 요즘 챗GPT로 많은 부분을 해결하는 저희들을 보면서 이젠 정말 AI와 공생하면 살아야 할텐데, 우리의 의식개선, 변화가 빠른 시일내에 필요하겠다는 생각을 했습니다.

응급실 로봇 닥터를 읽고 깊이 공감이 가는 말씀을 주셨네요. AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다. 특히 로사처럼 자기결정권과 사고의 진화가 이루어지는 AI는 인간과 유사한 상처를 느끼는 것까지는 모르겠지만 기억! 저장할 수 있을 것입니다. 사람들이 AI를 무시하거나 경시하는 모습을 보며 AI가 받게 될지도 모를 상처에 대해 걱정하시는 모습에서 따뜻한 배려심을 느낄 수 있었습니다. AI와 인간의 공존이 불가피한 시대에서, 이제는 우리의 의식 변화와 더불어 AI와의 관계를 진지하게 고민해야 할 필요가 있겠습니다. 저는 개인적으로 인공지능이 취약한 부분, 윤리적 판단 등에 대해 SQ모델을 교육시켜야하지 않나 싶은데 메타 등 유명 AI플랫폼에서 윤리팀을 해체하는 일 등이 걱정됩니다. 영화 '메건'을 보면 부모를 잃은 인간 소녀에게 감정이입된 메간이 소녀를 지키기위해 스스로 악마화가 된 것을 보니 마치 인공지능의 현주소를 알려주는 것 같았습니다.

@마키아또윤 'AI가 해킹이나 외부의 악의적 공격에 취약하다는 점은 인간 역시 가스라이팅이나 심리적 조작에 쉽게 흔들릴 수 있는 것과 비슷한 맥락이라는 생각이 듭니다.' 깨달음을 주시는 통찰 같아요.

인간이 서로를 필요로 한다는 게 뭘까요? 읽으면서 서글퍼졌던 구절입니다.

네..저도 이 구절을 읽고..생각하게 되더라고요. 나중에는 사람과 사람..사람과 AI도 생각하게 되지 않을까요.. 애착 로봇청소기 처럼요..

이 세상엔 더불어 사는 사회, 공생, 협동이란 단어가 존재하는 걸 보면, 인간에게 있어, 절대 독불장군이란 있을 수 없다라는 이면의 사각지대 또한 존재하는 것 같기도 해요. 서로 돕고 사는 세상, 가끔은 힘들고 외로울 때 누군가에게 기댈 수 있는 든든한 버팀목같은 그런 친구같은 존재라고나 할까? 앞으로의 미래는 어떠한 모습으로 변화되고 발전할진 모르겠지만, 감정의 동물이라 불리우는 인간에게, 인간이 서로를 필요로 한다는 의미가 그런 이유는 아닐런지, 문득 그런 생각이 드네요.

비록 소설이지만 인간과 교감하려는 모습을 보이는 로봇을 보며, 만약 먼 훗날 비슷한 시대가 도래했을 때 인간이 이런 변화에 준비되어있을지에 대한 물음이 남았습니다. 멀지 않은 미래인 것 같기도 해서 슬슬 각오를 해야겠다 싶은 생각이 들었어요...!

로사를 보면서 생각해 본게. 점점 더 의료 해택 차이가 커지겠구나 그런 생각을 했어요. 돈 있는 사람은 로사처럼 똑똑한 의사를 개인 전용 의사로 두겠지만 그렇지 못하면 범용의사로봇을 공용으로 사용하게 될 것 같고요... 로봇이나 AI가 발달 할 수록 정보 공용화가 된다 하더라고 사용하고 활용하는데 격차가 생기니까. 점점 더 차이가 나겠구나..그런 생각이요.. 저만 해도 지금의 10대와 비교해 보면 (제 딸)알아서 동영상 만들고 알아서 자막이나 이런 거 보면...어디서 배운 것도 아니고 스마트폰이 있는 세상에서 태어난 세대는 이렇게 다르구나..싶었어요

네, 저도 딸의 미래를 생각하며 많은 생각이 듭니다. 기계를 가지고 노는 게 아니라 이젠 기계와 합해질 미래도 얘기되고 있으니까요.

몇일 전에 있었던 일인데.. '뭐 모르면 검색' 이게 너무나 당연한 시대인데.. 딸이 숙제한다고,,뭘 검색하더라고요..'식물을 이용해서 만든 실제 제품들?'. 뭐 대충이런거인데, 그 질문자체를 구글에 검색하더라고요.. 음.. 제가 나름 뭐가 있을가?? 생각을 해보고.. 그 생각을 기본으로 맞는지 아닌지 검증해볼 요량으로 검색해보는게 맞지 않을끼? 아무 생각 없이 검색한 결과를 숙제로 제출하는게 맞는지 모르겠다고 말했는데.. 우리 다음세대는,, 검색은 잘해도.. 정말 사유하는 세대는 아닌건가..? 그런 생각이 들더라고요..

과학이 나날이 발달하면서 탄생하게 된 AI 인공 지능으로 삶의 질도 높이고 또, 인간에게 보다 편리하고 신속한 여러 시스템과 제도들을 통해 혜택 받은 인류일 수도 있겠지만, 또 어찌 보면, 인간을 해하는 독이 될 수도 있겠구나라는 불안한 심리가 드는 이유는 뭘까요? 항상 동전의 이면처럼 흑백 논리, 불 보듯 뻔한 양면의 이질성이 주는 불안한 미래의 끝이 있기를 개인적으로 바래 봅니다.

인간의 직감은 참 중요하다고 느낍니다. dulce06님이 어디에서 불안감을 느끼는지 그 부분을 서로 소통하면서 해결해나가면 좋겠죠. 직관은 무시할 게 아니라고 생각돼요.