『포스트휴먼이 몰려온다』 혼자 읽기

“ 학술적으로 ‘지능’은 지능을 가졌다고 설정되는 대상의 행위나 결과물의 특징으로 판단된다. 이런 점을 고려하면 인공지능이 ‘지능’을 가졌음을 부인하기는 어렵다. 인공지능이 산출하는 결과물은 분명 인간의 기준으로 보아도 뛰어난 지능의 산물처럼 보이기 때문이다. 하지만 인공지능의 지능은 인간의 지능과 ‘매우 다른’ 방식으로 작동한다는 점을 이해하는 것이 중요하다. 이런 의미에서 인공지능은 우리에게는 지극히 ‘낯선 지능’이다. ”

“ 문학 작품을 쓰는 인공지능도 있다. 인간의 언어가 워낙 맥락 의존적이고 여러 복잡한 상황적 요인에 의해서 의미가 중첩적으로 결정되는 경우가 많아서 순수 문학 작품은 아직 그다지 성공적이지 못했다. 그렇지만 스토리라인이 간단하고 등장인물의 대사가 전형적인 로맨스 소설은 제법 그럴듯하게 써 낸다. 문학 인공지능의 다음 도전은 추리소설이라고 한다. ”

“ 우리에게 너무나 익숙한 앞서의 가정, 지적인 결과물의 배후에는 의식적 경험을 하는 지적인 존재가 있다는 가정을 다시 살펴보자. 이에 대해 철학자들 사이에도 논쟁이 많다. 한쪽은 의식적 경험도 없이 기능적 수행만 할 뿐인 인공지능은 진짜 지능이 아니라고 단정한다. 예를 들어, EMI 프로그램은 진정한 의미에서 작곡을 한다고 볼 수 없다. EMI의 계산 결과를 우리 인간이 작곡이라고 인식하는 것뿐이다. 오직 인간만이 ‘진정한’ 의미에서 지능을 발휘할 수 있다. 그에 비해 인공지능은 자기가 뭘 하는지도 모르면서 고작 인간 흉내만 낼 뿐이다. 그렇게 봐야만 할까? 감탄스러운 지적인 결과물, 그리고 그 결과물을 의식적으로 경험하고 자각하면서 만들어 내는 것이 여태까지 지능의 두 가지 중요한 요소로 여겨졌다. 인간지능에서는 이 두 요소가 거의 항상 함께 등장했다. 그러다 보니 간과되었던 철학적 가능성이 있다. 바로 지적인 결과물과 의식적 자각은 별개이고 지능이 발현되는 맥락에서 항상 함께 구현될 필요는 없다는 가능성이다. 의식적 경험이 없이 EMI나 알파고처럼 적절한 기능을 수행하는 것만으로도 지능을 부여하자는 입장이 있다. 이를 지능에 대한 기능적(functional) 정의라 한다. 우주에는 다양한 종류의 지능이 있고 그중에 인간에게는 매우 ‘낯선 지능’도 있다는 입장이다. 인공지능을 올바로 이해하기 위해서는 지능에 대한 이 기능적 정의에서 출발하는 것이 바람직하다. ”

“ 인공지능이라는 개념 자체에 대해서도 문제를 제기해 보자. 인공지능은 인간이 (자신의 필요에 따라) 만들어 낸 지능이라는 뜻이다. 용어 자체가 주종의 관계를 의미한다. 그러다 보니 우리는 인간과 인공지능의 관계를 설명하기 위해 인간의 역사에서 일종의 유비를 찾게 된다. 예를 들어, 고대 로마 공화정 시기의 노예 지도자 스파르타쿠스가 반란을 일으킨 사건에서 원래 인간 주인에게 복속되었던 인공지능이 나중에는 인간을 지배하려 들 것이라는 연상도 하게 된다. ”

“ 그래서 나는 인공지능보다는 ‘기계지능(machine intelligence)’이라는 용어를 선호한다. 지능이 나타나는 방식은 여럿인데, 인간의 방식이 있고 그 방식은 독특하게도 의식적 경험이란 걸 동반한다. 이와 달리 기계에 구현될 수 있는 지능이 있고, 이 지능은 의식적 경험을 못 한다. 탁월한 수행 능력은 보일 수 있지만 말이다. 지능은 인간과 기계에 극적으로 방식을 달리하여 나타날 수 있기 때문이다. ”

“ 인공지능 전문가 제리 카플란은 이렇게 물었다. “비행기를 ‘인공 새’라고 했다면 어땠을까?” 아마도 우리는 비행기에 대해 묻지 않는 무의미한 질문들, 예를 들어 인공새는 새처럼 알을 낳는가 등을 궁금해했을 것이다. 이처럼 특정 대상에 어떤 개념을 적용하는지가 우리 사고의 흐름을 좌우한다. 그러므로 우리는 인공지능을 인간지능에 자꾸 빗대기보다는 자동화(automation)에 빗대는 편이 더 낫다. 인공지능은 아직 욕구도 없고 목적도 없다. 모두 인간이 주어야 한다. 그렇기에 인간지능보다는 매우 뛰어난 자동기계라고 생각하는 것이 더 적절하다. 그렇지 않으면 불필요한 디스토피아적 전망에 매달리게 된다. ”

“ 내가 철학 수업 시간에 학생들에게 “인간이 왜 존엄할까?”라고 물으면 신통한 답이 나오질 않는다. 인간의 존엄성은 ‘자명하다’고 생각했지 그 근거를 궁리해 본 적은 별로 없기 때문일 것이다. 근거는 결국 인간만이 가졌다고 생각되는 가치 있는 특징을 지적하는 방식이 되기 쉽다. 그런데 이런 대응은 21세기의 맥락에서 성공적이기 어렵다. 예를 들어, 인간의 도구 사용을 인간 존엄성의 근거로 내세운다면 19세기까지는 통했겠지만 현재는 인간이 아닌 침팬지도 지역마다 다른 방식으로 도구를 사용한다는 점이 잘 알려져 있다. 언어로 의사소통할 수 있는 능력을 내세운다면 인터넷으로 연결된 컴퓨터도 일종의 언어를 사용해서 의사소통한다는 사실 앞에서 맥을 못 추게 된다. 인공지능이 인간만이 할 수 있다고 여겨졌던 여러 수행 능력을 선보이면서 이런 대응 전략은 더더욱 성공적이기 어렵게 되었다. 인간만이 예술 작품을 창작할 수 있다고 이야기하기도 어렵고, 인간만이 논리적 추론을 수행할 수 있다고 하기도 어렵다. ”

“ 이런 생각을 하다 보면 결국 인간의 특별한 능력은 ‘의식적 경험’에서 찾게 된다. 아직까지 ‘의식적 경험’을 하는 인공지능은 존재하지 않고, 앞서 설명했듯이 앞으로도 그런 인공지능이 가까운 미래에 등장할 가능성은 낮기 때문이다. 그러나 또 되풀이하지만 ‘의식적 경험’이 모든 지능적 존재가 반드시 가져야 할 가치 있는 것이라고 주장할 철학적 근거는 거의 없다. ”