AI 이후의 세계 함께 읽기 모임

“ AI의 권고를 거부하는 것이 과연 정당화될 수 있을까? 그리고 AI가 무엇을 어떻게 계산했는지 인간이 항상 다 알 수 있을까? 인간이 AI의 석연치 않은 선택을 제때 탐지하거나 철회할 수 있을까? AI의 결정이 어떤 논리에서 나왔는지 모를 때도 의심 없이 그 결정을 따라야 할까? 만일 AI의 결정을 따르지 않는다면, 우리보다 우수한 능력을 보유한 기계를 방해하는 것은 아닐까? 혹시 AI가 내린 결정의 논리와 파급효과를 이해할 수 있다고 해도 라이벌 또한 AI에 의존한다면 어떻게 될까? ”

“ 앞으로 우리는 AI에게 부여한 목표를 어떤 식으로 달성하라고 세세하게 지시하지 않을 것이다. 웬만해서는 AI에게 모호한 목표를 부여하고 이렇게 물을 것이다. "'네'가 판단하기에는 우리가 어떻게 해야 할 것 같아?" ”

“ 알파제로의 전술은 실로 이례적이고 독창적이었다. 인간 플레이어는 어떻게든 지키려고 하는 말(예컨대 퀸)을 알파제로는 과감히 희생시켰다. 인간이 알려주지 않은 수를 뒀고 그중에는 인간이 아예 생각조차 못 한 수도 많았다. 알파제로가 놀라운 전술을 구사할 수 있었던 이유는 자기 자신과 벌인 수차례의 대국을 복기하며 그런 전술이 승산을 극대화하리라고 예측했기 때문이다. 알파제로에게는 인간이 생각하는 의미의 ‘전략’이 없었다(그럼에도 알파제로의 독특한 플레이 스타일 덕분에 체스에 관한 인간의 연구가 더 활발해지기는 했다). ”

“ 할리신의 발견은 쾌거였다. 제약은 체스와 비교도 안 되게 복잡한 분야다. 체스는 말의 종류가 6개뿐이고, 각각의 말을 움직이는 방법이 정해져 있으며, 승리 조건도 상대방의 킹을 잡는 것뿐이다. 반면에 신약을 개발할 때 고려할 수 있는 분자는 수백·수천·수만 개에 이르고, 각 분자가 바이러스나 박테리아의 다양한 생물학적 작용에 반응하는 방식도 제각각일 뿐만 아니라 대체로 뚜렷하게 밝혀지지 않았다. 비유하자면 게임을 하는데 말의 종류가 수천 개이고, 승리 조건이 수백 가지이며, 그 규칙 중 일부는 확실히 알려지지 않은 상황이다. 하지만 AI는 수천 건의 성공 사례를 분석해 그때까지 인간이 진가를 몰랐던 새로운 항생제를 발견했다. 그런데 이 연구에서 가장 인상적인 부분은 AI가 탐지하는 ‘관계’였다. 원자량과 화학결합 같은 화학 개념은 인간이 분자의 특성을 표현하기 위해 만든 것이다. 하지만 AI는 인간이 탐지하지 못했던 관계, 어쩌면 인간이 기술하는 것 자체가 불가능할 관계까지 포착했다. ”

“ 알파제로의 승리, 할리신의 발견, GPT-3이 만드는 인간적인 문장은 모두 첫걸음에 불과하다. 그 걸음은 새로운 전략을 수립하고, 새로운 약을 발견하고, 새로운 글을 쓰는 수준에 머무르지 않고(물론 그 또한 장대한 성취다), 지금껏 알지 못했던 현실의 중대한 측면들을 밝히는 걸음으로 이어진다. 각각의 사례에서 개발자들은 프로그램을 만들고, 목적(게임 승리, 박테리아 사멸, 문장 생성)을 부여하고, ‘훈련’할 시간(인간의 인지 능력을 기준으로 하면 짧은 시간)을 허용했다. 그 시간이 지났을 때 각 프로그램은 인간과 다른 방식으로 대상을 정복했다. ”

“ 앞으로 AI의 발전이 당연하다고 해도 그 종착지가 어디라고는 단정할 수 없다. 그래서 AI의 등장은 역사적으로도 철학적으로도 중요하다. 그 발전을 저지하려고 해봤자 결국에는 인간의 창의성을 과감히 시험해보는 이들이 인류의 미래를 써내려갈 것이다. 지금 인간은 인간과 다른, 즉 비인간적인 유형의 논리들을 만들고 퍼뜨리는 중이다. 그 논리들은 적어도 그것이 작용해야 하는 특정한 환경에서는 인간의 논리보다 광범위하고 예리하다. 그러나 AI는 종잡을 수 없는 면이 있다. 어떤 작업에서는 인간에 필적하거나 인간을 초월하는 능력을 발휘하지만, 또 어떤 작업에서는(때로는 방금 했던 것과 동일한 작업에서조차) 어린아이도 저지르지 않을 잘못을 저지르거나 전혀 이치에 맞지 않는 결과물을 내놓는다. ”

“ 우리가 세상을 설명하고 정립할 때 보편적으로 쓰는 사고방식을 뒤흔든 기술은 거의 찾아보기 어렵다. 하지만 AI는 인간 경험의 모든 영역에서 변화를 예고한다. 그 변화의 중심에는 인간이 현실을 이해하는 방식, 그리고 그 안에서 자신이 맡은 역할을 이해하는 방식을 바꿔놓는 철학적 전환이 있을 것이다. 이처럼 유례없고 심오한 변화 앞에서 우리는 당혹감을 느낀다. 어느덧 그 변화의 물결에 휩쓸려가고 있지만, 그간 그 물결이 어떤 일을 벌였고 앞으로 또 어떤 일을 벌일지 도무지 알 수 없기 때문이다. ”

“ 최근 인간과 기계가 협력하는 새로운 시스템이 확산되고 있다. 이런 시스템에서는 먼저 인간이 기계에게 문제나 목표를 정의해준다. 그러면 기계가 인간의 한계를 초월한 영역에서 최적의 프로세스를 찾는다. 기계가 이 프로세스를 인간의 영역으로 가져오면 인간이 그것을 연구한다. 그래서 인간이 이해할 수 있다면 좋고, 기존의 방식에 접목할 수 있다면 더더욱 좋다. 알파제로가 승리를 거둔 후 인간이 그 전략과 전술을 받아들이면서 체스에 대한 이해의 폭이 더 넓어졌다. ”