2024 성북구 비문학 한 책 ② 『공감의 반경』

3. 동의합니다. 『로봇의 자리』를 쓴 과학기술학자 전치형 교수님의 강연을 지난달에 들었는데요, 비슷한 문제 제기를 한 사례가 있었습니다. 인간 여성의 모습을 한 인공지능 로봇 ‘소피아’에 관한 이야기입니다. 소피아는 로봇 최초로 사우디아라비아에서 명예 시민권을 받으며 굉장한 환대를 받았습니다. 여성 인권에 폐쇄적인 사우디가 여성형 로봇에게는 개방적인 입장을 취한 것에 대해 많은 세계 언론이 유감을 표했다고 합니다. 이처럼 인간이 로봇이나 인공지능 같은 신기술에는 굉장히 우호적이지만 오히려 같은 인간에게 있어서는 마음을 닫고 있는 모습이 참 아이러니합니다. 사람을 닮은 로봇에게 공감할 능력을 사람 취급도 받지 못하는 이들에게 쏟아야 하는 것이 아닐까 싶기도 하고요. (여담이지만 강연에서 전 교수님은 ‘트롤리 딜레마’를 자율주행 인공지능에게 물어보는 것에 대해, 그건 윤리적 딜레마라기보다는 기계적 결함에 가깝다는 지적을 하셨습니다. 자율주행이 고민해야 할 일은 애초에 트롤리 딜레마처럼 사람을 쳐야만 하는 상황이 발생하지 않도록 방지하는 것이라면서요. 재미있는 지적이었습니다. 이 내용은 책에 「'도전 골든벨!' 유감」이라는 글에도 언급되어 있습니다.)

1. 이성적 도덕적 판단은 우리를 사회속의 규범을 지킬 수 있게 해 줍니다. 말 그대로 옳고 그른 판단에는 적합하게 반응할 수는 있으나 내가 가진 내집단의 편향된 생각과 사고에서는 자유로울 수 없습니다. 나와 성향이 비슷하거나 그들과 함께 모여있다는 상황만으로 결집이라는 에너지가 생기고 그 안에 있는 내집단에서는 잘못된 도덕적 판단을 하게 될 가능성이 늘 존재하기 때문이죠. 나와 다른 이의 행동과 모습을 가진 외집단을 터부시하고 "무조건 그들은 틀리다"라고 생각할 수 있는 그릇된 판단을 할 수 있기 때문에 이성적 도덕판단보다는 인지적 공감을 통해 다양한 측면에서 이해할 수 있어야 합니다. 2. 내집단 내에서 다양한 의견을 제시할 수 있는 사회적인 풍토가 조성되어야 한다고 봅니다. 과거보다는 요즘들어 조직 내에서 잘못된 부분을 지적하고 사회로 터트리는 내부고발자들이 나타나고는 있지만 여전히 법의 테두리속에서 그들을 안전하게 지켜주지 못 합니다. 그들의 반대급부인 회사들은 막대한 자본을 이용해 대형로펌으로 맞서고 있는 상황입니다. 자기들의 이익추구를 위해 사회적 질서를 맘대로 유린하고 망가트리는 회사에 대해서는 사법적인 리스크를 걸어 더 이상 그같은 행위를 하지 못하도록 해야합니다. 이에 대한 법제화가 실현되고 존속되어야만 인지적 공감대를 통해 사회질서가 유지된다고 생각합니다. 3. 이미 산업현장과 가정에서도 AI로봇이 현실화되고 있는 현대사회에서 기계와 공감형성 하는 것을 막기란 참으로 어렵게 되었습니다. 180p.에서도 지적했듯이 움직이는 건 지금까지 동물과 사람이었을 뿐 기계가 그렇다는 것을 학습한 적이 없는 상태에서 기존의 패턴이 불러오는 잘못된 의인화가 우리의 감정선을 깨트리고 새로운 패러다임으로 인식될 수 있다는 것을 경계해야 합니다. 이런 잘못된 학습은 우리도 모르는 사이에 깊게 들어와 사람과 동물에게 대하듯 그들을 하나의 감정을 가진 개체로 조종당할 수 있습니다. 더더군다나 1인 가구가 많아지고 있는 우리나라 사회에서는 매우 위험하게 자리잡을 수 있으며 우리는 서서히 그들에 의해 이성적 판단이 흐려지도록 지배당할 수 있습니다. 기계의 편리함에 빠져 잠식당하는 것이 아닌 인간이 가진 가장 큰 무기인 인지적 사고를 통해 명확한 구별을 하고 도구로서 활용할 때 비로소 인간의 가치는 더욱 빛날 것 입니다.

2장 3번. 저도 영화 her 를 인상 깊게 봤어요. 중국 업체들이 한창 AI를 탑재한 리얼돌을 개발 중이라고 하네요. 로봇 강아지가 아니라 이제 곧 대화가 가능한 말랑말랑한 인간 친구를 만나게 될 것 같습니다. 이 분야는 발달 속도가 너무 빨라서 생각이 따라잡을 수가 없는 것 같습니다. 로봇 강아지까지는 모르겠지만 제가 사랑하는 진짜 강아지와 낯 모르는 어린 아이가 함께 물에 빠진 긴박한 상황이라면 강아지를 먼저 구하고 싶은 마음이 들 수도 있을 것 같아요. 그런데 그렇게 따지면 저는 종차별주의자가 아닌건가, 혼란스럽네요.

5-1, 음.. 저도 조너선 하이트의 『바른 마음』을 몇 년 전에 읽었어요. 첫 번째 질문과 관련해서는 이론을 설명하는 방식에 대해서 이야기 하고 싶어요. 저는 공부를 오래한 사람이 아니라 전문적인 설명은 안되겠지만요 그간 이런 저런 좋은 책들을 접하다 보니 여러 학자들이 아이디어나 개념, 이론을 설명할 때 이해가 쉽도록 대립되는 두 개의 개념을 쌍으로 설명하는 것을 선호한다는 것을 배웠어요. 이런 방식은 새로운 개념을 효과적으로 이해하도록 돕기도 하지만 하지만 때로는 사건이나 상황에 대한 해석을 양자 택일로 이끌기도 하는 같아요. 인지과학이나 의식과학 책을 읽다 보면 우리 의식은 고정되어 있지 않고 계속 변하는 것을 알 수 있습니다. 우리는 시스템1이 먼저 작동하고 그 다음 시스템2로 분석을 하지만 우리의 시스템1은 끊임없이 겪고 느끼는 과정에서 변화한다고 생각합니다. 인지적 과정이 반복해서 무언가를 해석하고 새롭게 재인식하면 이것들이 나중에는 시스템1에도 자리잡게 되지 않을까 합니다. 우리의 시스템1은 더디겠지만 지속적으로 변화하기에 새로운 사건들에 대한 시스템1의 즉각적인 반응과 해석은 달라져 있을지도 모릅니다. 적어도 시스템2를 열심히 활용한 경우는 말이에요.

매우 흥미로운 지적입니다. 이성과 감정이라는, 사실 따지고 보면 그렇게 무 자르듯 구별되지 않는 개념을 사용하다 보니 혼선이 생기는 것 같아요. 인간은 학습 기간이 매우 긴 동물이라 특정 유전자가 고정된 행동을 유발하는 신경회로를 만들도록 지정하는 것이 아니라 환경에서 받는 자극을 통해 특정 행동을 학습하게 하는 유연한 신경회로를 지닌 동물이라 할 수 있으니까요. 시스템1이라 할 수 있는 직관적 판단 역시 학습의 산물이며 변화할 수 있는 것이겠지요.

1. 이 질문 자체가 저는 좀 잘못된 건 아닐까 하는 생각이 들어요. 인간의 사고 시스템을 이런저런 인간의 언어로 비유적으로 묘사하다 보니 생긴 혼선을 물고 늘어지는 질문에 불과한 것 아닐까요? ‘이성’, ‘감성’, ‘도덕적 직관’, ‘인지적 요소’ 같은 말들이 사람의 머릿속에서 벌어지는 일을 정확히 포착하지 못하는 것 같습니다. 그런 말들을 쓰지 않고 (이미 위에서 @우주먼지밍 님이 언급하셨습니다만) 대니얼 카너먼이 사용한 용어대로 그냥 빠르게 대충 판단하는 시스템 1과 느리지만 꼼꼼하게 추론하는 시스템 2라는 두 가지 사고 모드가 있다고 생각하고 논의를 전개하면 주신 질문이 저절로 해결되는 거 같습니다. 빠르게 대충 판단하는 시스템 1이라고 해서 과거 기억을 참고하지 않는 건 아닙니다. 한번 자라한테 물려서 고생한 사람은 다음에 솥뚜껑을 보고 빠르게 대충 ‘또 자라가 나왔네’ 하고 판단하고는 몸을 움찔할 수 있습니다. 여기에는 과거 기억이라는 인지적 요소가 있으며, 또한 동시에 빠르게 대충 판단한 거죠. 마찬가지로 빠르게 대충 판단하는 시스템 1이라고 해서 사회 규범을 참고하지 않는 것도 아닙니다. 어린아이일 때는 벌거벗어도 부끄러운 줄 모르다가 사회 규범을 내재화한 뒤 옷을 벗은 상태에 대해 수치심을 품게 됩니다. 공공장소에서 누가 제 옷을 강제로 벗기면 저는 깊이 생각하지 않고 수치심을 느끼겠죠. 사회 규범의 내재화라는 인지적 과정이 선행했으며, 동시에 현재의 저는 빠르게 대충 판단한 거죠. 그러니 ‘우리의 감정적 직관은 과거에 일어난 이성적 추론과 반성에 영향을 받는다’는 말은 당연한 이야기입니다. ‘우리 일상의 도덕적 직관은 늘 감정에 근거한다’는 말은 정확한 진술이라 할 수 없고요(‘늘 감정에만 근거한다’는 의미라면). 그러니 앞의 문장은 뒤의 문장에 대한 반론이 되지 못한다는 게 제 생각입니다.

아..@장맥주 님께서는 제가 하고자 하는 말을 더 명확하게 정리하여 주셨네요! 감사 드립니다. 우리가 ‘의식’ 또는 ‘자아’라고 부르는 것은 늘 변화한다고 생각합니다. 우리가 자아라고 부르는 것이 사건이나 상황 속에서 그때 그때 즉각적으로 반응(편의상 ‘시스템1’이라 부르는…)하고 행동한 것들은 감정과 정서와 인지가 모두 혼합되어 나온 것이라 생각합니다. 우리의 정서와 인지는 개개인이 독자적으로 형성한 것이 아니라 타인과 사회와 역사 속에서 만들어지고 변화한 것일테구요. 저도 우리의 감정, 욕망, 의식 등이 구성된 것이라 생각하거든요. 시스템2가 경험을 재해석하여 의미를 부여하고 사회와 문화 속에서 배운 해석법을 체득함으로써 계속하여 변화한다고 생각합니다. 음…저도 그믐에서 여러 번 등장하는 책들 가령 리사 펠드먼 배럿 『감정은 어떻게 만들어지는가』 를 그 책이 출간된 해에 구입하여 읽었습니다. 제가 감정을 해석하고 바라보는 방법을 재검토하게 해주었어요. 그리고 비슷한 시기에 ‘감정사회학자’이신 에바 일루즈의 책들도 함께 읽었습니다. 별 다른 고민 없이 당연시했던 일상적 감정들과 욕구들, 의미를 부여하고 해석하는 방식들, 도덕관념과 규범들 등등 긴 역사의 흐름 속에서 바라보면 항상 변화했고 구성된 것들임을 알게 됩니다. 돌아와서 도덕적 직관, 감정은 늘 구성되고 변화하고 서로 영향을 주고 받았다..이정도로 말하면서 이 횡설수설 아무말 대잔치 댓글을 마무리 할게요 ㅠ_ㅠ

저야말로 횡설수설 아무말 대잔치로 썼는데 @우주먼지밍 님이 잘 정리해주셔서 감사해요. 에바 일루즈 책들 메모했습니다. 제 감정이나 욕망, 의식이 구성된 결과물임을 깨닫는 게 겸손해지는데 조금 도움이 되는 거 같습니다. 무슨 불교적 깨달음까지 가지는 않더라도요.

장맥주 님과 우주먼지밍 님의 반론이 흥미롭습니다. 또 이 반론이 의미하는 바는 인간이 먼 과거의 진화적 압력에 따르는 동물이 아니라 우리의 생각보다 더 자율적이며 반성적이고 변화하는 힘을 지닌 동물이라는 용기를 주는 것 같습니다. 저는 이 지점이 매우 실천적인 동기를 준다고 생각합니다. 우리가 불과 수백 년전에 어떤 존재는 다른 존재보다 열등하며 어떤 소수적 정체성이 질병의 산물이라는 믿음을 아무 비판 없이 믿고 있었다는 사실을 생각하면 놀랍습니다. 인류가 자율적 판단과 반성으로 그런 주장의 근거가 부당함을 논증해 왔다는 것은 인류가 진보한다고 볼 수 있는 증거이지 않을까요? 우리에게 필요한 건 시스템 1을 형성하는 우리의 학습 자극들, 우리 문화의 이념들을 의심하고 비판하는 것이지 않을까 합니다.

바로 이 책이 그런 희망의 결과물이자 그런 희망을 퍼뜨리는 매개체라고 생각합니다. ^^

제가 종종 하는 이야기인데요, 고문을 잘 하려고 해도 공감 능력이 필수입니다. 고문 희생자가 무엇을 두려워하는지, 지금 어느 정도나 마음이 황폐해졌는지 알아야 하니까요. 저는 공감 그 자체가 지향해야 할 선이라는 생각은 못하겠어요. 선을 이루기 위한 도구일 수는 있겠지요. 이번에도 인지적 공감을 그냥 ‘시스템 2’로 바꿔서 생각해볼게요. 시스템 2는 느리지만 꼼꼼히 생각하는 생각 방식입니다. 결국 주신 질문은 어떤 사람이 꼼꼼하게 생각했을 때 내리게 되는 결론이 공동체 이익과 부합하게 만들자는 이야기나 마찬가지라고 생각합니다. 그렇다면 복잡하게 생각할 것 없이, 공동체 이익에 배치되는 행동을 하는 사람을 확실하고 공정하게 처벌하는 시스템을 만들면 되는 것 아닐까요? 그런 사회에 사는 사람들이 시스템 2를 통해 사회 규범을 이해하고, 그것을 내재화하면 되는 것 아닐까요?

3. 지적에 완전히 동의하고, 오래 전부터 이미 벌어지고 있는 현상이라고 생각합니다. 드라마 속 허구의 캐릭터에 너무 공감한 나머지 그가 죽는 결말을 납득할 수 없어 방송국에 전화를 걸어 애꿎은 방송사 직원을 괴롭히는 사람은 이성적 도덕 규칙을 어기고 있죠. 제3세계에 굶주리는 아이들에게 관심을 기울이지 않고 판다에게 자기 시간과 관심이라는 자원을 쏟는 사람도 냉정하게 생각해보면 이성적 도덕 규칙을 어기고 있습니다. ‘살아 있는 사람이 허구의 캐릭터나 동물보다 중요하다’는 것은 이성적으로 생각하면 당연한 규범이지만 현실에서 잘 지켜지지는 않습니다. 캐릭터와 동물 다음 자리에 기계가 설 날도 머지않았다고 봅니다. (저는 여기서도 ‘이성적 공감’이라는 표현이 가리키는 바가 애매하다 생각해서 그 말은 피해서 썼습니다.)

- 2부 1. 너무 어려운데요. 흐음. '이성적인 도덕 판단의 반경'이 아닌 '인지적 공감의 반경'을 선택한 이유에서는, 전자에는 역지사지가 없어서 고정된 내 위치를 기반으로 논리를 더 구축할 확률이 높아서가 아닐까요? 2. 1부에서 인지적 공감 능력을 향상 시킬 수 있는 놀이의 효용성을 보고 감탄했는데요. 연극 같은 취미 활동이 활성화 시키는 제도는 어떨까 싶어요. 자연스럽게 희곡을 읽으며 독서도 하고 직접 이입하고 대사를 뱉어보고 그 사람이 되어서 살아보는 경험을 한다면 어떨까요? 전에 유튜브에서 조승연님이 어떤 외국분의 영어 스피치가 너무 매력적이라서 본인의 스피치를 다 망치셨다는 이야기를 들었어요. 제 기준에선 조승연님도 충분히 달변가(+영잘알)데 그 분의 스피치가 어땠길래? 싶더라고요. 발표 후에 조승연님이 그 분한테 비법을 물어보니 그 분이 극단활동을 몇 년 동안하면서 세익스피어 대본을 다 외우고 있었다고 하시더라고요. 그런 활동을 나도 하고 싶다, 나도 쉽게 시도하고 접해보고 싶다고 생각했어요. 3. 이런.. 이렇게 생각은 못해 봤는데요. 이성적 도덕 규칙이 필요하겠어요. 이성적 공감만으로 끝나는 것도 요상하게 느껴집니다.

3. 저는 공감을 가지는 대상과 이성적 판단이 필요할 때 따르는 기준이 다릅니다 조금 모순적일 수 있지만 공감은 저의 직관적이고 정서적인 판단이되 이성적 사고가 필요할 때는 제가 공감하지 않더라도 목적에 맞는 선택을 한,ㄴ 편입니다 이것은 인지적 공감과도 조금 다른 것 같은데요 예를 들어 선거에서 어떤 후보의 정책이 직괸적이던 인지적이던 공감이 이루어지지 않아도 지역구나 전체적인 관점에서 필요하다고 생각하면 그 사람에게 표를 주는데 이것은 그냥 이해관계에 따른 선호일까요.

저는 공감하는 방법이 다른 사람의 말 먼저 들어보고 공감할 것 있으면 공감하는 편입니다 그러고 나서 저의 말을 이야기해서 공감대를 얻어내죠

오, "먼저 듣기"도 공감의 좋은 방법이네요.

경청이 대화에 시작이라고 하죠. 상황에 따라 다르지만 내 의견을 먼저 제시하기 보다 상대방의 의견을 먼저 듣고 표현하는 방법은 옳습니다.

핸드폰을 잃어버려 전화 한 통 부탁하러 오는 이. 거절과 함께 나에게 날아오는 알 수 없는 거친 말과 감정적으로 격해지는 화. 도덕의 토대로서 다섯 가지 기준, 즉 '도덕 기반 중 순수성'으로 바라보면 거짓 없이 다가오는 건지, 보이스피싱을 하러 오는 건지 알 수 없는 순간의 찰나에 보고 들었던 정보를 토대로 비슷한 선택을 했을 것이고 타인의 관점으로 바라보며 이성적으로 판단하기엔 직관적인 감정이 앞서는 건 사실이다. 책에서 트롤리 시스템이란 예시를 보여주며 '어렵겠지만 그럴 때일수록 직관을 끄고 이성을 켜라, (p135)라는 말을 해주고 있다. 다양한 상황을 맞닥뜨리면 어떤 이성적 판단으로 다가가야 할지 공감이 쉽지는 않구나 라는 생각이 든다.