[그믐밤] 1. 다리 위 차차 @송송책방

1명 그믐밤 신청합니다. 아직 마감되지 않았다면요! 윤필 작가님이 스토리로 참여하신 책이어서 기대가 됩니다.

하리님, 안녕하세요! 신청 확인했습니다. 그믐밤에 윤필 작가님께 듣고 싶은 이야기들이 많습니다. 함께 해 주세요.

1명 신청합니다.

파파사이트님, 안녕하세요! 신청 확인했습니다. 그믐밤 신청해주셔서 대단히 감사합니다.

저는 개빠(...)니까 ‘마그나카르타 1, 2’ 편은 감동의 폭풍 속에서 봤지요. 그런데 그 폭풍 후유증을 추스르고 다시 익으면서는 인간이 아니라 지능에 대해 생각하게 되었어요. 연민과 욕망은 지능에 필수적으로 따라붙는 요소일까요? 지능이 뛰어난 로봇은 가엾은 개에 대해 연민을 느끼고, 그 개를 보살피고 싶다는 욕망을 느낄까요? 아니면 지능은 차가운 알고리즘으로서, 그런 연민과 욕망과는 무관한 존재일까요?

인간을 학습한 AI는 인간이 가진 연민 역시 학습하게 되지 않을까요. 작가님이 추천글에 쓰신 표현 대로 '인간의 고귀한 면을 닮은' AI를 개발한다면, 선과 악 양면성을 가진 인간을 초월한 선한 존재가 탄생할 수도 있을 것 같아요.

어줍잖은 지식으로 고민한 내용을 적어보자면, 우선 흔히 말하는 지능(계산, 추론, 시공간능력 등)과 연민과 상관관계는 없을 수 있다고 생각합니다. 인간의 연민과 유사한 행동인 감정전염(emotional contagion)은 설치류에서도 관찰 가능하고 관련된 뇌영영과 기전이 비교적 잘 알려져 있습니다. 퇴행성뇌질환에서도 어떤질환은 공감능력이 질병초기부터 심하게 망가지고(전두측두치매), 어떤 질환은 오히려 공감능력이 비정상적으로 항진되는(알츠하이머병) 경우가 보고된바가 있습니다. 따라서 연민, 공감능력 이라고 부르는 뇌기능은 계산능력 처럼 독립된 인지기능으로 보는 것이 합당해 보입니다. 따라서 공감능력도 알고리즘화 해서 코딩이 가능하게 될 것이고 그 정도를 조절할 수 있지 않을까 생각합니다. 물론 소위 말하는 '강한 인공지능'에서는 스스로 학습할 수도 있을 것 같습니다.

하지만 그러한 공감능력이라는 인지기능을 활용하려면 일정 수준 이상의 계산력(computational power)이 필요할 테고, 인공지능이 고도화 될 수록 공감능력이 좋아질 확률은 올라갈 수 있을 것 같습니다. 욕망이라는 변수가 들어가면...... 모르겠습니다.

인지 능력과 공감 능력은 독립적이라고 해도 이상하지 않은데, 얼핏 생각하기에 공감 능력과 욕망은 분리되지 않을 거 같아요. 공감 능력을 쪼개면 아래 세 가지로 이루어지지 않을까요? ① 어떤 상황에 대해 ‘회피하고 싶다’ 혹은 ‘계속 추구하고 싶다’고 가치 평가를 할 수 있다. ② 내 옆의 다른 개체가 그런 상황에 있다는 걸 파악할 수 있다. ③ 그 개체의 욕구를 내 욕구처럼 느낄 수 있다. 욕망이 없는 존재는 ①과 ③을 수행하지 못할 것 같아서요.

장맥주님 의견에 동의합니다. 하등동물에서 처럼 감정전염이 일어난다고 하더라고 이를 도와주는 행동을 하려면, 이런 경우 보상을 받는 회로가 있어야 할 텐데, 이러한 회로가 없이는 연민이나 이타적인 행동이 나올 수 없을 것 같습니다. 만약 특정행동을 했을때 보상이 증가하는 (즉 쾌락중추에서 도파민이 증가하는 것과 같은 신경반응) 반응이 애초에 코딩이 되어야 연민을 학습할 수 있게 될 것 같습니다.

사람의 쾌락중추의 신경반응과 유사한 알고리즘은 AI를 설계하면서 아무도 코딩하지 않을 것 같고, 무작정 computational power 를 올리다가 우연히... 비슷한 기작이 나오지 않을까... 하는 허황된 생각을 해 봅니다.

오오, 역시 전문가...! 지능이랑 연민이 관련이 없을 수 있다는 말씀 들으니, 그쪽으로 생각이 흘러가네요. 그러고 보니 소시오패스 같은 존재도 있는 걸 보면 지능이 연민과 꼭 관련은 없는 거 같습니다. 설치류의 감정 전염이나 전두측두치매 이야기는 처음 듣네요. (폭력성이 커진다는 전두측두치매 너무 무섭습니다... 지하철 1호선에서 본 이상한 할아버지들이 사실은 이 질환을 앓고 있었던 것 아닐까 싶기도 합니다.) 강인공지능이 연민 능력을 학습할지도 모르겠다는 말씀도 그럴듯하게 들립니다. 진화를 흉내 낸 인공지능 배양 기술 같은 게 생기고, 거기서 한 개체가 협업의 힘을 알게 되면 곧 공감 능력도 창발하지 않을까? 그런 생각도 듭니다. 욕망... 인공지능이 끝까지 욕망을 모르면 좋겠는데요.

관련해서 @윤필 작가님께 좀 궁금한데요, 이 작품이 기독교적이라고 생각하시나요? 혹시기독교를 믿으셨거나, 현재도 신자이신가요? '차차=예수' 설에 동의하시나요?

@장맥주 인간이 무언가를 창조하는 행위가 종교적인 관점과 비슷하다는 생각이 들었습니다. 작품이 기독교적이라거나 차차가 예수를 떠올리게 한다는 생각은 하지 않았는데 마침 송송책방 대표님도 전에 그런 말씀을 해주셔서 '아, 그럴수도 있겠다.' 고 생각했습니다. ^^; 중고등학생을 대상으로 나온 가벼운 철학책을 보거나 (소피의 철학 같은) 그런류의 대화가 하고 싶었는데 그나마 비슷한 모임이 성경공부 모임이나 교회라서 잠시 다녔던 적이 있습니다. (교회 분위기가 안 맞아서 다니다가 말았지만요...^^;) 제가 글로 감상을 쓰는게 좀 두서없고 서툴러서... 양해 부탁드립니다~!

답변 친절히 달아주셔서 얼마나 감사한지 모릅니다! 송송책방 대표님도 그런 감상을 말씀하셨군요. 저는 중학생 때까지는 성당 청소년부에 다녔는데 고등학생 때에는 잘 안 갔고, 20대에 무신론자가 되었어요. 그런데 어릴 때 성경 공부한 게 이후에까지 저한테 영향은 꽤 미친 거 같아요.

작품과 작가는 별개라고 하지만 아무래도 작품의 배경이나 계기, 뒷 이야기 등등이 독자로서 궁금하기는 합니다. 윤필 작가님께서 들려주시는 이야기 재미있게 듣고 있습니다. ^^ '인간이 무언가를 창조하는 행위' 라고 하셔서 생각나는 작품이 미드 '웨스트월드' 1시즌과 '퍼슨오브인터레스트' 전 시즌이 생각나네요. 이 두 미드를 보면서 계속 신이 된 인간에 대해 생각하게 되더라구요. 지금 기술력의 속도로 보건대 인간이 곧 무엇인가를 만들어 낼 수 있을 것 같던데, 과연 그 끝은..

저도 청소년기에 교회오빠들도 만날 수 있고 해서 교회를 잠시 다녔는데, 모든 성경 공부 끝이 도돌이표처럼 이 모든 게 다 하나님의 큰 뜻이다로 가버리니 흥미를 잃게 되더군요. 저에게 신은 '나에게 무관심한 자' 입니다. 신은 존재할 수는 있으나 나와 별 상관은 없음. 아, 서로 간에 신경 쓰지 말자구요. 그 쪽에서도 이 쪽에서도. 믿음이 있는 분들이 들으시면 참으로 불경스럽다고 혼내실 것 같습니다.

@장맥주 링크걸어주신 음악 잘 들었습니다!