『포스트휴먼이 몰려온다』 혼자 읽기

“ 학술적으로 ‘지능’은 지능을 가졌다고 설정되는 대상의 행위나 결과물의 특징으로 판단된다. 이런 점을 고려하면 인공지능이 ‘지능’을 가졌음을 부인하기는 어렵다. 인공지능이 산출하는 결과물은 분명 인간의 기준으로 보아도 뛰어난 지능의 산물처럼 보이기 때문이다. 하지만 인공지능의 지능은 인간의 지능과 ‘매우 다른’ 방식으로 작동한다는 점을 이해하는 것이 중요하다. 이런 의미에서 인공지능은 우리에게는 지극히 ‘낯선 지능’이다. ”

“ 문학 작품을 쓰는 인공지능도 있다. 인간의 언어가 워낙 맥락 의존적이고 여러 복잡한 상황적 요인에 의해서 의미가 중첩적으로 결정되는 경우가 많아서 순수 문학 작품은 아직 그다지 성공적이지 못했다. 그렇지만 스토리라인이 간단하고 등장인물의 대사가 전형적인 로맨스 소설은 제법 그럴듯하게 써 낸다. 문학 인공지능의 다음 도전은 추리소설이라고 한다. ”

“ 우리에게 너무나 익숙한 앞서의 가정, 지적인 결과물의 배후에는 의식적 경험을 하는 지적인 존재가 있다는 가정을 다시 살펴보자. 이에 대해 철학자들 사이에도 논쟁이 많다. 한쪽은 의식적 경험도 없이 기능적 수행만 할 뿐인 인공지능은 진짜 지능이 아니라고 단정한다. 예를 들어, EMI 프로그램은 진정한 의미에서 작곡을 한다고 볼 수 없다. EMI의 계산 결과를 우리 인간이 작곡이라고 인식하는 것뿐이다. 오직 인간만이 ‘진정한’ 의미에서 지능을 발휘할 수 있다. 그에 비해 인공지능은 자기가 뭘 하는지도 모르면서 고작 인간 흉내만 낼 뿐이다. 그렇게 봐야만 할까? 감탄스러운 지적인 결과물, 그리고 그 결과물을 의식적으로 경험하고 자각하면서 만들어 내는 것이 여태까지 지능의 두 가지 중요한 요소로 여겨졌다. 인간지능에서는 이 두 요소가 거의 항상 함께 등장했다. 그러다 보니 간과되었던 철학적 가능성이 있다. 바로 지적인 결과물과 의식적 자각은 별개이고 지능이 발현되는 맥락에서 항상 함께 구현될 필요는 없다는 가능성이다. 의식적 경험이 없이 EMI나 알파고처럼 적절한 기능을 수행하는 것만으로도 지능을 부여하자는 입장이 있다. 이를 지능에 대한 기능적(functional) 정의라 한다. 우주에는 다양한 종류의 지능이 있고 그중에 인간에게는 매우 ‘낯선 지능’도 있다는 입장이다. 인공지능을 올바로 이해하기 위해서는 지능에 대한 이 기능적 정의에서 출발하는 것이 바람직하다. ”

“ 인공지능이라는 개념 자체에 대해서도 문제를 제기해 보자. 인공지능은 인간이 (자신의 필요에 따라) 만들어 낸 지능이라는 뜻이다. 용어 자체가 주종의 관계를 의미한다. 그러다 보니 우리는 인간과 인공지능의 관계를 설명하기 위해 인간의 역사에서 일종의 유비를 찾게 된다. 예를 들어, 고대 로마 공화정 시기의 노예 지도자 스파르타쿠스가 반란을 일으킨 사건에서 원래 인간 주인에게 복속되었던 인공지능이 나중에는 인간을 지배하려 들 것이라는 연상도 하게 된다. ”

“ 그래서 나는 인공지능보다는 ‘기계지능(machine intelligence)’이라는 용어를 선호한다. 지능이 나타나는 방식은 여럿인데, 인간의 방식이 있고 그 방식은 독특하게도 의식적 경험이란 걸 동반한다. 이와 달리 기계에 구현될 수 있는 지능이 있고, 이 지능은 의식적 경험을 못 한다. 탁월한 수행 능력은 보일 수 있지만 말이다. 지능은 인간과 기계에 극적으로 방식을 달리하여 나타날 수 있기 때문이다. ”

“ 인공지능 전문가 제리 카플란은 이렇게 물었다. “비행기를 ‘인공 새’라고 했다면 어땠을까?” 아마도 우리는 비행기에 대해 묻지 않는 무의미한 질문들, 예를 들어 인공새는 새처럼 알을 낳는가 등을 궁금해했을 것이다. 이처럼 특정 대상에 어떤 개념을 적용하는지가 우리 사고의 흐름을 좌우한다. 그러므로 우리는 인공지능을 인간지능에 자꾸 빗대기보다는 자동화(automation)에 빗대는 편이 더 낫다. 인공지능은 아직 욕구도 없고 목적도 없다. 모두 인간이 주어야 한다. 그렇기에 인간지능보다는 매우 뛰어난 자동기계라고 생각하는 것이 더 적절하다. 그렇지 않으면 불필요한 디스토피아적 전망에 매달리게 된다. ”

“ 내가 철학 수업 시간에 학생들에게 “인간이 왜 존엄할까?”라고 물으면 신통한 답이 나오질 않는다. 인간의 존엄성은 ‘자명하다’고 생각했지 그 근거를 궁리해 본 적은 별로 없기 때문일 것이다. 근거는 결국 인간만이 가졌다고 생각되는 가치 있는 특징을 지적하는 방식이 되기 쉽다. 그런데 이런 대응은 21세기의 맥락에서 성공적이기 어렵다. 예를 들어, 인간의 도구 사용을 인간 존엄성의 근거로 내세운다면 19세기까지는 통했겠지만 현재는 인간이 아닌 침팬지도 지역마다 다른 방식으로 도구를 사용한다는 점이 잘 알려져 있다. 언어로 의사소통할 수 있는 능력을 내세운다면 인터넷으로 연결된 컴퓨터도 일종의 언어를 사용해서 의사소통한다는 사실 앞에서 맥을 못 추게 된다. 인공지능이 인간만이 할 수 있다고 여겨졌던 여러 수행 능력을 선보이면서 이런 대응 전략은 더더욱 성공적이기 어렵게 되었다. 인간만이 예술 작품을 창작할 수 있다고 이야기하기도 어렵고, 인간만이 논리적 추론을 수행할 수 있다고 하기도 어렵다. ”

“ 이런 생각을 하다 보면 결국 인간의 특별한 능력은 ‘의식적 경험’에서 찾게 된다. 아직까지 ‘의식적 경험’을 하는 인공지능은 존재하지 않고, 앞서 설명했듯이 앞으로도 그런 인공지능이 가까운 미래에 등장할 가능성은 낮기 때문이다. 그러나 또 되풀이하지만 ‘의식적 경험’이 모든 지능적 존재가 반드시 가져야 할 가치 있는 것이라고 주장할 철학적 근거는 거의 없다. ”

“ 인공지능에도 법적 인격을 부여하자는 논의가 국제적으로 활발하게 진행 중이다. 갠지스강과 마찬가지로 인공지능과 인간을 동등하게 똑같이 대우하자는 의미는 아니다. 대중매체에서 다루듯, 이러다가 로봇이 투표도 하고 정치도 하는 세상이 금방 도래하는 것도 결코 아니다. 만약 인공지능에 법인격이 부여된다면 이는 훨씬 구체적인 문제를 풀기 위한 사회적 결정이라고 보아야 한다. 예를 들어, 자율주행차는 인간의 직접적이고 실시간적인 결정에 의존하지 않고 상황에 대한 정보를 활용해서 ‘자율적으로’ 행위를 결정한다. 이런 인공지능 기계의 행위 결과에 대해 법적 책임을 따지는 하나의 해법으로 법인격의 부여가 논의되는 것이다. 물론 자율주행차에 법인격을 부여하는 것이 자율주행차 관련 교통사고를 법적으로 해결하는 유일한 방법은 아니다. 다른 방식도 얼마든지 가능하다. ”

“ 물론 인공지능 법인격이 일부 도입되어 그 범위가 점점 확대되고, 먼 미래에는 충분히 발달한 인공지능이 인간과 동등한 권리를 부여받는 상황이 올 수도 있다. 하지만 그 과정은 인권 개념이 인간 사회에서 확대되었듯 점진적이고 수많은 사회적 논의와 사회운동을 통해 이루어질 것이지 인공지능에 대한 간단한 개념 규정으로 결정 나지는 않을 것이다. ”

“ 그러나 인간과 기계의 공진화가 진행되면, 인간이 사라지는 것은 아닐까? 그런 걱정은 필요 없다. MIT 공학자 로드니 브룩스가 멋있게 표현했듯이, 인간이 기계와 결합하는 순간, 순수한 로봇이 정복할 ‘순수한 인간’은 남아 있지 않을 것이기 때문이다. ”

“ 초인의 본성은 새로운 가치를 창조하는 데 있으며, 새로운 가치를 창조하는 데 필요한 것은 아이의 정신이 보여 주는 삶에 대한 성스러운 긍정이다. 여기서 ‘성스러움’이 의미하는 것은 삶을 무조건 긍정하거나 부정하는 태도가 아니라 그 둘을 변증법적으로 초월하는 태도이다. 성스러운 긍정은 인간 삶의 온갖 한계, 역경, 고난, 문제, 고통, 모순, 부조리를 초월할 수 있는 지극한 용기와 지고한 순진함을 바탕으로 한다. 호모 사이보그가 초인이 되기 위한 조건은 바로 삶에 대한 긍정적 태도를 통한 새로운 가치를 창조하는 능력이다. ”

“ 2013년 당시 인도의 대리모 산업은 4억 4,500만 달러 규모의 비즈니스로 추정되었다. 인도의 높은 의료기술 수준, 상대적으로 저렴한 시술 비용, 상업적 대리모를 쉽게 구할 수 있는 환경이 인도를 ‘초국적 대리 임신 산업이 가장 번성한 나라’로 만들었다. 당시 인도의 불임클리닉은 3,000개로 추산되었고, 등록된 병원만도 1,400개에 이르렀다. 2015년까지만 해도 1년에 약 3만 명의 아기들이 인도의 대리모에게서 태어난다고 보고된 바 있다. 인도는 ‘아기 공장’이라는 오명에서 벗어나고자 2016년 상업적 대리모 규제 법안을 통과시켰다. 이 법안에 따르면, 결혼 5년에 이른 인도의 불임부부를 제외한 모든 상업적 대리모 계약이 금지된다. 그러나 인도에서 상업적 대리모 규제가 성공하고 있는지는 알 수 없다. ”