지능의 기원 혼자 읽기

마음이론은 어떻게 작동할까? 적어도 이론적으로는 한 가지 가능성이 있다. 영장류 고유의 새겉질 영역이 처음에는 자신의 내적 시뮬레이션(바꿔 말하면 '마음')에 대한 생성모델을 구축하고, 이 모델을 이용해서 다른 사람의 마음을 시뮬레이션해본다는 것이다.

초지능 AI 시스템이 함께하는 성공적인 미래를 그리기 위한 필수 요소가 마음이론인지도 모른다. 초지능 AI 시스템이 우리 말을 듣고 실제로 의미하는 내용을 추론할 수 없다면, AI가 우리의 요청을 잘못 해석해서 재앙을 일으키는 암울한 미래가 펼쳐질 것이다. -> 마음이론을 AI가 갖게 되면 독자적인 의식이 생긴다는 것인데, 그렇다면 인간의 통제를 벗어나게 되는 것 아닌지.

마음이론이 있어야만 후손에게 효율적으로 기술을 가르칠 수 있다. 가르치기 위해서는 상대방이 무엇을 모르는지 이해해야 하고 어떻게 시연해야 상대방의 지식을 올바른 방향으로 조작하는 데 도움이 될지도 이해해야 한다. 사람이 아닌 영장류도 다른 개체를 가르치는지에 대해서는 여전히 논란이 있지만, 최근에는 사람이 아닌 영장류도 적극적으로 서소를 가르친다는 생각을 지지하는 증거가 쌓이기 시작했다.

마음이론은 초기 영장류에서 정치공작을 하기 위해 진화했다. 하지만 이 능력이 용도 변경되어 모방학습에도 사용됐다. 다른 개체의 의도를 추론하는 능력 덕분에 초기 영장류는 관련 없는 행동을 걸러내고 관련 있는 행동(그 사람이 하려고 의도한 행동)에만 집중할 수 있었다. 그리고 마음이론 덕분에 어린 개체는 오랜 시간 학습에 집중할 수 있었다. 어쩌면 마음이론 덕분에 초기 영장류는 초보자가 이해하는 것과 이해하지 못하는 것을 추론함으로써 능동적으로 가르칠 수 있었는지도 모른다. (중략) 그 결과 새로운 수준의 전달성이 생겨났다. 그 전에는 똑똑한 개체가 기술을 발견해도 그 개체가 죽으면 기술도 함께 사라졌다. 이제는 이런 전달성 덕분에 기술이 무리 전체로 전파되고 세대를 거쳐서도 무한히 전달될 수 있었다.

다른 누군가의 마음을 상상하는 것이 미래의 내 마음을 상상하는 것과 다를까? 어쩌면 미래의 필요를 예측하는 메커니즘은 마음이론의 작동 메커니즘과 동일할지도 모른다. 자신의 마음이든 다른 누군가의 마음이든 지금과는 다른 상황에 놓였을 때의 의도를 추론할 수 있다. (ex. 마음이론 : 24시간 동안 아무것도 못 먹으면 제임스는 얼마나 배가 고플까?, 미래의 필요 예측 : 24시간 동안 아무것도 못 먹으면 나는 얼마나 배가 고플까?)

초기 영장류에서 등장한 것으로 보이는 능력은 크게 세 가지다. - 마음이론: 상대방의 의도와 지식을 추론하는 능력 - 모방학습: 관찰을 통해 새로운 기술을 습득하는 능력 - 미래의 필요 예측: 지금 당장은 필요 없어도 미래의 필요를 충족시키기 위해 지금 행동을 취할 수 있는 능력. 이는 사실 별개의 능력이 아니라 자신의 마음에 대한 생성모델 구성이라는 한 가지 새로운 혁신에서 등장한 창발적 속성인지도 모른다. 이것을 정신화라 부를 수 있다.

인간이 독보적인 진짜 이유는 세대를 거치며 공통의 시뮬레이션 결과(아이디어, 지식, 개념, 생각)를 축적한다는 점이다. 우리는 집단지성이 있는 유인원이다. 우리는 내적 시뮬레이션을 동기화해서 인간의 문화를 일종의 메타 생명체로 바꾼다. 메타 생명체의 이식은 세대를 거치며 수백만 개의 뇌를 통해 흐르는 지속적인 아이디어와 생각 안에서 실체화된다. 이 집단지성의 토대가 바로 언어다.

핵심은 언어가 뒷담화의 용도에 더해서 도덕을 위반한 사람을 처벌하는 용도로도 사용된다면 높은 수준의 이타주의를 진화시킬 수 있다는 것이다. 여기에 인류의 비극과 아름다움이 모두 담겨 있다. 실제로 우리는 가장 이타적인 동물에 해당하지만, 이런 이타주의에는 어두운 대가가 따라온다. 도덕을 위반했다고 생각하는 사람을 벌하려는 본능, 반사적으로 사람을 선과 악으로 구분하려는 본능, 내집단에는 필사적으로 순응하고 외집단의 사람은 너무도 쉽게 악마화해버리는 본능 등이다. (중략) 혈연이 아닌 개체 사이에 높은 수준의 이타주의를 요구하는 생태적 지위에서는 이 모든 결과가 등장할 수밖에 없었다. 그리고 이런 역동성 속에서 형성되기 시작한 모든 이타적 본능과 행동 중에서 가장 강력한 것은 의심할 여지없이 혈연이 아닌 개체와 언어를 이용해서 지식을 공유하고 협동 계획을 수립하는 능력이었다.

실제로 LLM은 슈퍼컴퓨터만큼 메모리 용량이 막대해서, 사람 한 명이 1000번 살면서 읽을 수 있는 양보다 많은 책과 글을 읽었다. 그래서 겉으로는 상식적으로 추론하는 것처럼 보여도 실제로는 천문학적으로 방대한 텍스트 말뭉치에서 패턴매칭을 하는 것과 비슷하게 작동한다. (중략) 시뮬레이션과 정신화라는 혁신을 통합하지 않는다면 LLM은 인간의 지능에 관한 본질적인 뭔가를 담아낼 수 없을 것이다.

완독했습니다. 혼자 읽기 챌린지 첫 목표 달성합니다.