possible minds

“ 우리 인간의 지능은 기적이며 불가해하다. 과학은 인간의 뇌가 층과 피드백 고리를 가진 다른 복잡계와 같은 방식으로 작동한다는 관점에 의견을 같이 한다. 이런 복잡계는 수학적으로 ‘최적화 함수’를 따르지만 어떤 의미에서는 그냥 ‘아래로 흘러가는’ 상태라고 부를 수도 있다. ”

“ 인간이 만든 생각하는 기계는 은유 이상이다. 문제는 ‘기계가 인간을 다치게 할 만큼 강력해질 것인가?’(물론 그럴 것이다)나 ‘기계가 항상 인간에게 최대의 이익을 가져다주는 방향으로 움직일 것인가?’(그렇지 않을 것이다)가 아니라, ‘오랜 시간이 지나면 인공지능이 인간에게 만병통치약/아포칼립스의 연속체에서 빠져나올 수 있는 길을 알려줄 수 있는가?’이다. ”

“ 사람들은 인공지능을 두려워한다. 아마 그래야 할 것이다. 그러나 인공지능은 데이터가 필요하다는 사실도 깨달아야 한다. 데이터가 없다면 인공지능은 아무것도 아니다. 인공지능을 지켜볼 필요가 없다. 대신 인공지능이 무슨 데이터를 먹는지, 무엇을 하는지 감시해야 한다. 유럽연합과 다른 국가와의 협력으로 만든 신뢰 네트워크의 틀은 우리의 알고리즘, 우리의 인공지능을 만들 수 있지만, 무엇이 들어가고 나오는지 잘 살펴야 한다. 그리고 물을 수 있어야 한다. 이것은 차별적인 결정이 아닐까? 이것이 사람들이 원하는 결과일까? 이것은 어딘가 조금 이상하지 않나? ”

“ 각각의 의사결정이 들어가고 나간 데이터를 알 수 있으면, 질문하기는 어렵지 않다. 공정한 알고리즘인가? 이 인공지능은 인간의 윤리적인 기준에 따라 움직이고 있는가? 이 같은 인간 참여형 접근법을 ‘개방 알고리즘’이라고 한다. 인공지능이 어떤 것을 입력값으로 택하고 그 값을 이용하여 어떤 결정을 내리는지 관찰할 수 있다. 이 두 가지를 감독할 수 있다면 인공지능이 제대로 작동하는지 아닌지도 알 수 있다. ”

“ 보다 전반적으로 보면, 알고리즘과 빅데이터가 수렴하면서 우리의 삶을 더 많이 지배할수록 과학사에서 얻은 다음의 두 가지 교훈을 명심해야 할 것이다. 첫째, 판단은 자제력을 지닌 순수한 객관성에서 폐기된 겉껍질이 아니다. 둘째, 기계적 객관성은 과학 산업의 본질적인 정수가 아니며, 다른 가치들 사이에서 경쟁하는 가치다. 이 두 가지는 알고리스트들이 객관성을 꿈꾸더라도 마음속 깊이 새겨야 할 교훈이다. ”

“ 만약 로봇의 의식이 인간과 정확하게 같지 않다면, 이는 로봇에게 제한된 권리만 주는 변명으로 이용될 것이다. 다른 인종이나 민족이 미개한 인간이라는 주장과 닮은꼴이다. 로봇은 이미 자유 의지를 나타냈을까? 벌써 자의식을 갖추었을까? 로봇 Qbo가 거울 속 로봇이 자신임을 깨닫는 ‘거울 테스트’를 통과한 데 이어, 로봇 NAO는 자신의 목소리를 인식하고 자신의 내적 상태가 무음인지 아닌지를 추론하는 테스트를 통과했다. ”