AI 이후의 세계 함께 읽기 모임

“ AI시대의 특성을 잘 반영하고 시대의 지침이 될 윤리체계를 확립하는 일이 무엇보다 중요하다. 이는 어느 한 분야에 맡길 수 없는 과업이다. AI를 개발하는 컴퓨터과학자와 기업가, AI를 배치하길 원하는 군사 전략가, AI를 조성하려는 정치 지도자, AI의 더 깊은 의의를 탐구하는 철학자와 신학자는 각자의 위치에서 큰 그림의 작은 조각만 볼 수 있을 뿐이다. 이들이 모두 논의에 참여해서 선입견에 휘둘리지 않고 의견을 교환해야 한다. ”

“ 따라서 AI 윤리가 반드시 확립돼야 한다. 제한, 협력, 추종을 선택할 때마다 무조건 극적인 일이 발생하진 않겠지만, 그런 결정이 누적돼서 생기는 결과는 대단히 극적일 것이다. 따라서 독단적 결정은 용납될 수 없다. 인류가 미래를 만들어나가려면 결정의 순간마다 방향을 제시해줄 공통된 원칙이 필요하다. 아무리 다자간 협력을 끌어내기가 어렵고 때로는 불가능하다고 해도, 공통된 윤리가 없이 행동한다면 불안정성만 커질 뿐이다. AI를 설계하고 훈련하며 그와 협력하는 사람들은 지금까지 인간이 이루지 못했던 거대하고 복잡한 목적들을 달성할 것이다. ”

“ AI는 인간이 만들었으니 인간이 감독해야 한다. 하지만 우리 시대에 AI를 둘러싼 문제점 중 하나는 이를 만들 능력과 자원을 가진 사람들이 모두 철학적 측면에서 AI의 파급효과를 숙고하진 않는다는 사실이다. 많은 개발자가 AI로 어떤 기능을 구현하고 어떤 문제를 해결할지만 생각한다. 혹시 그것이 역사의 줄기를 바꾸는 혁명을 초래하거나 다양한 집단에 영향을 미칠 가능성은 없는지 따져보진 않는다. AI시대에는 인류가 무엇을 만들고 있으며 그것이 우리에게 어떤 의미인지 설명해줄 데카르트와 칸트의 후예가 필요하다. ”

“ 지금 우리의 문제는 아직 그 기술들의 철학적 시사점을 다 알지 못한다는 점이다. 우리가 신기술을 토대로 진보하는 중이지만, 아직까지 그 진보는 저절로 나타나는 변화일 뿐 우리가 의식적으로 이루고 있진 않다. 인간의 의식에 마지막으로 대변혁이 있었던 계몽주의시대에 그토록 큰 변화가 일어났던 이유는 신기술(인쇄술)이 등장하면서 새로운 철학적 사유가 발생하고 그 결과물이 신기술에 의해 보급됐기 때문이다. 우리 시대에도 신기술이 등장했지만 아직 길잡이가 될 철학은 성립되지 않았다. ”

“ 우리는 기존의 사회에서 무엇을 보존해야 하는가? 또 기존 사회에서 무엇을 희생해 더 좋은 것을 얻어야 하는가? 사회규범과 세계 균형에 관한 관념에 AI의 창발성을 어떻게 편입할 것인가? 그 밖에도 어떤 질문들을 탐구해야, 우리가 경험하지도 못했고 직관적으로 알아내지도 못하는 상황에 대처할 수 있는가? 그리고 이 모든 것을 아우르는 ‘메타적’ 질문이 존재한다. 자신과 다른 식으로 세계를 해석하고 이해하는 AI의 ‘도움’을 받는 인간들이 과연 이 시대에 필요한 철학을 수립할 수 있는가? 혹시 우리를 기다리는 숙명은 인간이 완전히 이해하지 못하는 기계와 협력해 세계를 바꿔나가는 미래가 아닌가? ”