[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

다들 이번 독서는 만족스러우셨나요? 저는 이 책을 처음 온라인 서점에서 우연히 발견했을 당시 제목에 확 사로잡혀 읽어봐야겠다고 생각하다가 다른 분들과도 얘기를 나누고 싶어 그믐 모임으로 골랐습니다. AI에 대한 우려의 목소리들이 나오고 있지만 그 우려가 단지 개별적인 의견에 불과할 뿐 창업가들과 빅테크, 언론들의 목소리에 가려져 있다고 생각해왔습니다. 이 책은 여러 직업과 산업을 오가며 그런 우려가 우리의 개인적인 기우가 아닌, 근거와 사례가 있는 현재진행형 이슈임을 밝힌다는 점에서 의의가 있습니다. 이 책의 모든 장 구성이 만족스러웠지만 개인적으로는 1장의 데이터 주석 노동자 사례는 앞으로도 계속 기억에 남을 것 같네요. 자신의 가족의 사고영상을 끝까지 봐야만 했던 노동자의 비참한 일화는 전혀 상관없는 지구 반대편의 저에게도 작은 기억의 상흔을 남기는데 당사자와 그 일터의 노동자들은 어떤 비극을 견뎌야 했을지 상상이 가지 않습니다. 계속 책과 대화에서도 반복하여 언급되었지만 AI산업은 그 유용성이나 실재성의 증명과는 별개로 기술적인 복잡성과 전혀 대조적으로 산업의 구조가 '불분명'하다는 문제를 내포하고 있습니다. 생성형 AI들이 내놓는 답이 왜 그런 결과가 나왔는지를 수억, 수백억개의 매개변수를 역추적하며 인간이 이해하기란 어렵습니다. 테크기업들의 '기술중심적 문제해결관'은 환경과 사회의 문제를 해결하기 위한 다양한 방법론을 첨단기술로만 해결할 수 있다는 일종의 신념이 되어가고 있습니다. 그리고 우린 인간사회와 역사에서 보통 일방향적인 신념이 시대를 불문하고 부작용을 만들어낸 경우들을 많이 봐왔습니다. 테크 기업가들의 인류에 대한 봉사나 사명감이 얼마나 진실하냐와는 별개로, 그들을 투자하고 후원하는 투자세력 그리고 기술이 유통되고 사용되는 구조가 자본의 논리 안에서만 작동한다는 점에서 AI도 수익추구의 논리를 벗어나지 못하는 한계를 저자들은 다양한 사례로 보여줬죠. 이런 한계가 겉으로 드러나 사회적으로 공론화할 수 있는 문제로 떠오르기 보다는 기업가 정신이나 혁신이라는 이름에 묻혀 가려지고 있다는 점. 제3세계와 비정규직-기간제-단기근로자처럼 사회의 주목을 받지 못하는 그림자 영역을 기업들이 교묘히 활용하여 우리의 눈으로부터 가리고 있다는 점입니다. 그리고 이런 전략들은 AI만이 아니더라도 과거 산업혁명 시대부터 SNS의 시대에 이르기까지 겉으로 드러나는 양상만 조금씩 다를 뿐 본질은 크게 변하지 않았습니다. 다가오는 시대의 변화에 적응하여 생존하라는 말은 다르게 말하면 적응하지 못하겠으면 도태하라는 말일 겁니다. 하지만 우리가 책에서 보았듯 많은 개인들은 그저 자신의 하루와 일상을 유지하고 싶은 존재일 뿐입니다. 개개인에 따라서는 자신의 타고난 환경과 위치로 인해 AI는커녕 현재의 생계를 걱정해야 하는 사람들도 있습니다. 그런 사람들에게 AI시대가 다가오는데 적응하라는 말이 모두에게 같은 의미로 다가올 수 있을까요? AI가 경쟁과 자본의 논리에 종속되어 있는 한, AI 또한 현재의 사회문제와 격차를 유지하거나 이를 확대하는 데 기여하는 또 다른 기둥이 될 가능성이 존재합니다. AI를 개발하는 기업가와 투자가들은 민주사회가 제공한 다양한 자원과 가치를 모두 흡입하고 있지만 그들이 내리는 결정의 과정과 사회환원이 상응할지는 의심스럽습니다. AI의 불분명함과 기업들이 그림자에 숨기고 있는 문제들을 드러내려면 국가나 정치인의 규제에만 의존하기 보다는 사용자이자 소비자인 우리들 각자도 AI의 이면을 이해해야 한다는 작가들의 지적이 오래 기억에 남을 것 같습니다. 소설 <남아 있는 나날>에는 이런 말이 있습니다. “그러한 실수 자체는 사소할지 몰라도, 스티븐스, 더 큰 의미가 담겨 있다는 걸 분명히 알아야 하네.” AI라고 하는 사회적 현상과 경제적 가치, 트렌드를 넘어 그 이면에 무엇이 소모되고 희생되어야 했는지 '의미'를 알아가는 책이어서 읽는 동안 심란하지만 지적으로 즐거운 시간이었어요. 다들 한 달간 고생하셨습니다.