『포스트휴먼이 몰려온다』 혼자 읽기

“ 학술적으로 ‘지능’은 지능을 가졌다고 설정되는 대상의 행위나 결과물의 특징으로 판단된다. 이런 점을 고려하면 인공지능이 ‘지능’을 가졌음을 부인하기는 어렵다. 인공지능이 산출하는 결과물은 분명 인간의 기준으로 보아도 뛰어난 지능의 산물처럼 보이기 때문이다. 하지만 인공지능의 지능은 인간의 지능과 ‘매우 다른’ 방식으로 작동한다는 점을 이해하는 것이 중요하다. 이런 의미에서 인공지능은 우리에게는 지극히 ‘낯선 지능’이다. ”

“ 문학 작품을 쓰는 인공지능도 있다. 인간의 언어가 워낙 맥락 의존적이고 여러 복잡한 상황적 요인에 의해서 의미가 중첩적으로 결정되는 경우가 많아서 순수 문학 작품은 아직 그다지 성공적이지 못했다. 그렇지만 스토리라인이 간단하고 등장인물의 대사가 전형적인 로맨스 소설은 제법 그럴듯하게 써 낸다. 문학 인공지능의 다음 도전은 추리소설이라고 한다. ”

“ 우리에게 너무나 익숙한 앞서의 가정, 지적인 결과물의 배후에는 의식적 경험을 하는 지적인 존재가 있다는 가정을 다시 살펴보자. 이에 대해 철학자들 사이에도 논쟁이 많다. 한쪽은 의식적 경험도 없이 기능적 수행만 할 뿐인 인공지능은 진짜 지능이 아니라고 단정한다. 예를 들어, EMI 프로그램은 진정한 의미에서 작곡을 한다고 볼 수 없다. EMI의 계산 결과를 우리 인간이 작곡이라고 인식하는 것뿐이다. 오직 인간만이 ‘진정한’ 의미에서 지능을 발휘할 수 있다. 그에 비해 인공지능은 자기가 뭘 하는지도 모르면서 고작 인간 흉내만 낼 뿐이다. 그렇게 봐야만 할까? 감탄스러운 지적인 결과물, 그리고 그 결과물을 의식적으로 경험하고 자각하면서 만들어 내는 것이 여태까지 지능의 두 가지 중요한 요소로 여겨졌다. 인간지능에서는 이 두 요소가 거의 항상 함께 등장했다. 그러다 보니 간과되었던 철학적 가능성이 있다. 바로 지적인 결과물과 의식적 자각은 별개이고 지능이 발현되는 맥락에서 항상 함께 구현될 필요는 없다는 가능성이다. 의식적 경험이 없이 EMI나 알파고처럼 적절한 기능을 수행하는 것만으로도 지능을 부여하자는 입장이 있다. 이를 지능에 대한 기능적(functional) 정의라 한다. 우주에는 다양한 종류의 지능이 있고 그중에 인간에게는 매우 ‘낯선 지능’도 있다는 입장이다. 인공지능을 올바로 이해하기 위해서는 지능에 대한 이 기능적 정의에서 출발하는 것이 바람직하다. ”

“ 인공지능이라는 개념 자체에 대해서도 문제를 제기해 보자. 인공지능은 인간이 (자신의 필요에 따라) 만들어 낸 지능이라는 뜻이다. 용어 자체가 주종의 관계를 의미한다. 그러다 보니 우리는 인간과 인공지능의 관계를 설명하기 위해 인간의 역사에서 일종의 유비를 찾게 된다. 예를 들어, 고대 로마 공화정 시기의 노예 지도자 스파르타쿠스가 반란을 일으킨 사건에서 원래 인간 주인에게 복속되었던 인공지능이 나중에는 인간을 지배하려 들 것이라는 연상도 하게 된다. ”