possible minds

“ 1970년대 초에 디지털 시대가 도래하면서 위너는 잠시 잊혔지만, 현재 위너의 사이버네틱스 개념은 광범위하게 적용되어 이제는 특별히 따로 명명할 필요조차 없을 정도로 모든 것에 스며들었다. 사이버네틱스는 어디에나 존재하며 심지어 공기 중에도 존재한다. ”

“ 오늘날 사이버네틱스에 관한 이야기를 들을 수 없는 데는 두 가지 이유가 있다. 첫째, <인간의 인간적 활용>은 당시에 중요한 책으로 생각되었지만, 존 폰 노이만이나 클로드 섀넌 같은 많은 동료의 염원인 신기술의 산업화에 반대 입장을 취했다. 둘째, 컴퓨터의 개척자인 존 맥카시는 위너를 싫어해서 ‘사이버네틱스’라는 용어를 거부했다. 결국 매카시는 ’인공지능’이라는 용어를 만들었고 해당 분야의 창시자가 되었다. ”

“ 위너가 제시한 중요한 통찰은 세계를 정보라는 측면에서 이해해야 한다는 것이다. 생물, 뇌, 인간 사회 같은 복잡계는 하부 체계에서 신호가 교환되는 피드백들이 뒤얽혀 복잡다단하지만 그럼에도 안정적인 행동을 보인다. 피드백이 망가지면 시스템은 불안정해진다. 위너는 복잡한 생물 시스템이 어떻게 움직이는지 설득력있는 하나의 그림을 완성했으며, 이는 지금까지도 널리 수용된다. ”

“ 1950년대에 존 폰 노이만은 위너와 대화하다가 일부 영감을 얻어 ‘기술적 특이점’이라는 개념을 도입했다. 기술은 기하급수적으로 향상되는 경향이 있는데, 일정 시간 동안 성능이나 감도 측면에서 곱절로 향상하기도 한다(1950년 이후 컴퓨터 기술은 2년마다 성능이 두 배씩 향상되었으며, 이 현상은 ‘무어의 법칙’으로 명명되었다). 폰 노이만은 자신이 관찰한 기술 향상의 기하급수적 속도를 근거로 “기술은 이해할 수 없을 정도로 빠르고 복잡하게 진보할 것”이며, 머지 않은 미래에 인간의 능력을 능가하리라고 예측했다. ”

“ 인공지능에 대해 지나치게 낙관적인 최초의 예측이 빗나가면서 기술적 특이점에 관한 논의는 한동안 기세가 한풀 꺾였지만, 2005년 레이 커즈와일이 <특이점이 온다>를 출판하면서 초지능으로 이끄는 기술 발달이라는 주제가 다시 돌아왔다. ”

“ 특이점 이론가들이 가장 두려워하는 것은, 컴퓨터가 소프트웨어를 설계하는 데 더 깊이 관여하면서 자력으로 인간을 능가하는 능력을 급속도로 얻지 않을까 하는 점이다. 그러나 머신러닝이 보여주는 증거는 그 반대 방향을 가리킨다. 기계가 더 강력해지고 학습할 수 있게 될수록, 기계는 더욱더 인간과 유사하게 학습한다. ”

“ 많은 사용자가 딥러닝에 대해 “잘 작동하고는 있지만, 왜 그런지는 모른다”라고 말한다. 일단 거대한 데이터 바다에 풀어 놓으면, 딥러닝은 고유의 동역학 원리로 스스로 수리하고 최적화하며, 대부분은 올바른 결과를 내놓는다. 그러나 딥러닝이 엇나가도 우리는 어디가 잘못됐는지, 어디를 고쳐야 할지 단서를 찾을 수 없다. 특히나 결점이 프로그램에 있는지, 메소드에 있는지, 아니면 환경이 바뀌었기 때문인지 모른다면 더욱더 그렇다. 이제는 다른 명료성에 집중할 때다. ”

“ 우리가 사람의 뇌가 작동하는 방식을 잘 모르는 현실을 묵과하는 이유는 사람의 뇌가 항상 같은 방식으로 작동하기 때문이며, 인간이 자신의 자연언어를 사용해서 타인과 소통할 수 있고, 배울 수 있으며, 타인을 지도하고, 동기를 부여할 수 있기 때문이다. 만약 로봇이 알파고처럼 불투명한 존재가 된다면 로봇과는 의미 있는 대화를 나눌 수 없을 테고, 이는 불행이 될 것이다. 운용 환경이나 작업에 조금이라도 변화가 있을 때마다 로봇을 재교육해야 할 것이다. ”

“ 기계의 행동 법칙을 정확하게 검증하지 않고, 인간이 수용할 만한 원칙에 따라 기계의 행동이 수행될 것임을 확인하지 않은 채 기계에 우리의 행동을 결정하게 할 때, 인류에게는 재난이 닥칠 것이다! 한편 스스로 학습할 수 있고 그 지식을 바탕으로 의사결정을 하는 지니 같은 기계는 인간과 같은 결정을 내릴 의무가 없거나, 인간이 수용할 만한 의사결정을 하지 않을 것이다. ”