[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

4장 아일랜드의 예술가 이야기도 제가 매우 흥미를 가지고 있는 주제입니다. 예전에 산업혁명과 기계의 발달, 자동화는 신체 노동자들의 일자리를 위협했고 창의적인 작업을 하는 예술가들이 가장 안전할 거라고 생각했는데 어느새 ai가 작사 작곡도 하고 소설도 쓰고 그림도 그리기 시작했어요. 이에 대해 최근에 재미있게 읽은 책 "영원을 향하여"에서 ai가 시를 쓸 수는 있어도 시를 감상하는 것은 더 어렵다고 했던 것이 생각나네요. 저는 여전히 ai는 창의적인 것이 아니라 통계를 바탕으로 창의를 흉내낸다고 생각한다는 점에서 칸트가 정의한 예술에 동의하는 편이에요. 사실 기계와 사람의 협업을 통해 더 큰 감동을 주는 좋은 작품을 만들 수 있을텐데 결국 자본주의는 ai 기술을 핑계로 어떻게든 창작자들을 착취하려고 한다는 것이 문제겠죠.

@Alice2023 님, 의견 감사합니다. 인공지능을 개발하고 사용하는 주체들의 의도가 조금씩 다를 순 있어도 어느 방향이든 창작자들의 생계를 위협한다는 점 그리고 창작의욕을 침해하는 방향이라는 공통점이 문제 같네요. 요즘 돌아다녀 보면 건물 대형 전광판이나 지하철 스크린 등에서 AI로 만든 듯한 인물들이 들어간 광고가 보이더군요. 또한 개인들은 미드저니 같은 이미지 가상 생성 AI로 본인들의 생각이나 아이디어를 시각적 수단으로 표현하지 못하던 사람들이 작업물을 만들고 있죠. 기업은 비용과 제작기간의 절감이라는 관리적 측면을, 개인은 부족했던 창조의 욕구를 실현하는 수단으로서 사용한다는 차이가 있지만 이 두 방향 모두 기존 창작자들에게는 위협적이죠. 전자의 경우는 노동시장과 업무의 구조적 기반 자체가 흔들리는 문제이기 때문에 크리에이터들의 생계라는 전체 파이 크기 자체를 줄이는 문제라면, 후자의 경우는 AI 사용자들이 본인도 의도하지 않게 창작자들의 작업물을 부당하게 사용하고 배포하는 '간접적인 가해자'가 된다는 점이죠. 책에서도 나오듯 일부 이미지 생성형 AI들은 데비안아트, 픽시브 등 여러 아티스트들이 자신의 그림을 업로드하고 공유하던 커뮤니티나 플랫폼의 자료들을 무단으로 학습자료로 사용한 이력들이 있습니다. 그림 실력이 없는 개인들은 자신이 원하는 작가의 그림체나 화풍을 손쉽게 얻을 수 있지만, 정작 그 특성을 물리적으로 구현하기까지 오랜 시간과 노고를 들인 작가들에게는 어떠한 인정이나 보상도 돌아가지 않죠. 만일 이미지 생성 AI의 개발자들이 이런 문제, 저작권과 창작자들의 생태계를 더 고려했더라면 이런 문제를 최소화 할 수도 있었을 겁니다. 하지만 이미 그들의 개발과정은 어느 순간부터 저작권을 무시하고 있었죠. '정당한' 방식으로 AI를 훈련하고 교육하려고 하면 저작권에 대한 보상 그리고 시간의 소요로 인해 경쟁에서 뒤처지는 구조적 압력이 이들에게도 작동했겠죠. 결국 책의 저자들이 말하는 것처럼, AI가 개발의 시작부터 배포와 사용단계에 이르기까지 자본주의 내에서 통용되고 자본의 논리가 이를 합리화하는 한 AI는 절대로 가치중립적일 수 없음을 다시 한 번 보여주고 있네요. 물론 이미 예술과 창작도 하나의 '산업'이 되었고 그곳에도 대규모 자본의 논리가 이전부터 개입되어 있었죠. 하지만 AI시대의 창작가들이 겪어야 하는 문제가 이전가 다른 점에 대해 전 이렇게 생각합니다. 과거에는 독립된 개인이 혼자 작업하든, 기업이나 대규모 스튜디오가 작업하든 창작활동을 위한 여러 방면의 노고와 시간이 필요했습니다. 작업물의 흥행이나 질적 수준 또는 정당한 보상은 별개로 하더라도 개인이든 단체든 창작의 고통은 모두가 겪어야 하는 문제였죠. 심적으로 괴로워 해야 하고, 많은 자본을 투입하고도 흥행에 실패해야 했으니까요. 그러나 AI가 현재 모방하고 있는 창조활동은 그런 기존 시대에 당연시 되었던 창작의 고통이 이제 의미 없다는 듯 무한한 자가복제의 형태로 불어날 여지가 생겼다는 점일 겁니다. 이전에 적었던 내용처럼 산업혁명 시기에 오히려 예술이 가치를 부여받게 된 이유는 공산품들과는 다른 생산의 희소함에 반비례하는 가치의 농도 때문이었죠. 그러나 이제 공장처럼 찍어내는 수준을 넘어 복사와도 같이 불어나는 AI의 작업물들은 더이상 희소성은 없게 되었죠. 모래알처럼 늘어나는 복제품을 보면서 우리가 가치를 느끼기는 어려울 겁니다. AI를 통해 예술적 기교와 접근이 어려웠던 개인들이 자신의 창작욕구를 표현할 날이 왔다고 보고 싶지만, 그보다는 '좌우 안 가리고 직진'으로 향하는 길이 뚫린 게 아닌가 생각해 봅니다.

공감합니다. 창작자들의 수많은 노력을 데이타로 차곡차곡 쌓은 뒤 무한 증식해서 기존 창작자들의 노력을 평가절하시켜 버리는 현실에 대해 장강명 작가님의 책이 떠올랐어요. AI 가 훌륭한 작품을 1000개씩 찍어낸다면 사람이 정녕 거기서 감동을 느낄 수 있을지 질문을 던지셨죠. 작품 자체에 대한 감동뿐만 아니라 그런 작품을 만든 창작가의 고민과 노력, 그리고 희소성에 대한 것까지 함께 통틀어서 "감동" 이라고 하는것 아닐까요.

이 편리함 뒤에 누가 서 있을까요 유튜브에서 AI가 만든 노래를 들었습니다. 원곡 가수의 목소리와 구분할 수 없었습니다. 댓글 창을 내렸습니다. "이제 성우도 필요 없겠네." 저는 그 댓글을 보고 불편했습니다. 하지만 그 노래를 끝까지 들었습니다. 편리하다는 생각과 함께, 묘한 죄책감이 밀려왔습니다. 아일랜드의 성우 로라는 자신의 목소리를 학습한 AI와 경쟁합니다. 로라의 목소리는 이제 로라만의 것이 아닙니다. 누군가는 그 목소리를 더 싸게, 더 빠르게 쓸 수 있습니다. 로라는 자신의 목소리로 일자리를 잃습니다. 책 <AI는 인간을 먹고 자란다>는 이렇게 말합니다. 진짜 위험은 AI가 예술을 창조한다는 것이 아닙니다. 이 기술이 권력자에 의해 남용되어, 창작자를 착취하는 수단이 된다는 것입니다. 저는 오래 생각했습니다. 창의력도 AI가 복제합니다. 데이터 처리 능력은 인간이 따라갈 수 없습니다. 그렇다면 인간과 AI의 차이는 무엇일까요. 어쩌면 인간다움은 비합리적인 것에 있는지도 모릅니다. 누군가를 착취하려는 욕심도 인간다움입니다. 최소 비용으로 최대 이익을 얻으려는 것도. 새벽 배송을 주문하면서 '노동자가 힘들겠지'라고 생각하는 것도. 그러면서도 다시 버튼을 누르는 것도. AI는 프로그램대로 움직인다고 생각했습니다. 합리적이고 공정할 것이라고 상상했습니다. 하지만 그 뒤에는 여전히 인간의 노동이 있습니다. 플랫폼 노동자는 알고리즘에 통제받으며 일합니다. 성우는 자신의 목소리를 학습한 AI와 경쟁합니다. 고객은 새벽 배송을 받지 못할까 봐 걱정합니다. 누군가는 말했습니다. "사람의 일은 사람이 해결해야 합니다." 기술은 사람의 일을 개선할 수는 있어도, 해결하지는 못한다고. 기술 낙관론자들은 말합니다. 기술이 모든 것을 해결할 것이라고. AI가 인간을 자유롭게 만들 것이라고. 하지만 로라의 목소리를 훔쳐 쓰는 것은 AI가 아닙니다. 인간입니다. 새벽 배송 노동자를 알고리즘으로 통제하는 것도. 최소 비용으로 최대 이익을 얻으려는 것도. 그러면서 "기술이 발전했다"라고 말하는 것도. 문제는 기술이 아니었습니다. 기술을 어떻게 사용하느냐였습니다. 스스로에게 묻습니다. 정말 AI가 인간을 닮아가는 것일까요. 아니면 인간이 AI를 닮아가는 것일까요. 스마트폰 화면 속에서 AI가 만든 노래가 또 재생됩니다. 저는 손가락을 듭니다. 다음 곡을 누르기 전에, 잠깐 멈춥니다. 이 편리함 뒤에 누가 서 있을까요.

@RAMO 님의 마지막 부분 말이 좋네요. 우리가 AI를 닮아가고 있는 것은 아닌가 하는 물음. 인공지능만이 아니더라도 역사에서 인류를 이끌어 온 지배적 가치나 체제들은 우리가 과연 정말로 그렇게 살기를 원하여 만들어진 건지, 아니면 소수의 누군가가 그렇게 유도한 것인지 궁금할 때가 있습니다. 신분과 계급에 의한 차별이 그러했고, 인간을 가축과 같은 소유물로 본 노예제가 그랬으며, 생산수단에서는 혁명이 일어났지만 그 생산물을 산출하기 위한 노동력의 가치는 절하된 산업시대가 그러했습니다. 대항해시대와 식민주의 시기에는 특정 문화권이나 인종이 다른 집단을 지배하기 위한 정당성을 과학/기술에서 끌어와 명분으로 쓰곤 했죠. 과연 그것들이 정말로 우리 인류가 원하던 시대였을까 의문이 들곤 합니다. AI시대의 도래를 우리 스스로는 과연 얼마나 정말로 원하고 있을까요. 아니면 빅테크 기업들과 창업가/혁신가/투자자들이 원하는 것일까요. 많은 IT기업들과 리더들은 개인이 시대를 이끌어가는 운명이 온다고 강조하지만, 형태만 다를 뿐 결국 또 시대가 개인을 끌고 가는 운명이 반복되는 것은 아닌지 생각해 봤습니다.

이제야 책모임을 훑어봤네요. 무척 관심가는 책입니다. 저는 요즘 제미나이를 많이 사용하고 있는데, 한편으론 ai가 집단지성의 산물이기에 인간이 Ai와 경쟁하거나 밀려나거나 종속된다기 보다는 새로운 도구가 우리 손에 쥐여졌고, 특히 지식공유가 쉬워져 어떤 면에선 평등이 실현된 측면도 있다고 생각하고 있습니다. 그리고 이러한 집단지성은 인류가 역사를 통해 집적한 거대한 노동의 산물이기에, 그로 인한 이익이 있다면 모든이가 함께 누리는 것이 맞다는 생각도 합니다. 한편으로 아직 책을 구해보지 못했으나 ai라는 것이 마치 객관성과 가치중립성을 지닌 기계적 존재로 인식되는 게 하나의 함정일 수 있음을 방대한 사례를 통해 보여주고 있는듯하여 무척 관심이 갑니다. 뭣보다 it기업, 플랫폼기업의 독점 문제와 이로 인해 기하급수적으로 팽창할 전력소비량이 얼마나 환경문제나 노동자들이나 저개발 국가의 희생을 요구할지도 어두운 이면이라 할 수 있을것같고요 일단 피부로 느껴지는것은 한국과 같은 육체노동에 대한 차별적 인식이 고학력을 부추겨 대졸자가 전국민의 80%에 이르는 나라에서 그동안 젊은이들의 신규취업에서 노동다운 노동으로 인식되어왔던 지적노동이 빠르게 ai로 대체되고 있는 문제이고요. 제 생각에 대안은 노동시간을 줄여 혁신의 열매를 나누는 것과, 선망해왔던 지적노동보다 비용문제로 ai가 대체하기 어려운 서비스직이나 복합적인 육체노동에 대한 시각변화와 처우개선이 해법이 아닌가 싶습니다. 어쨌든 뒤늦게 좋은 책을 발견하여 늦게라도 구해서 읽어보고 동참할 수 있으면 좋겠네요

안녕하세요 @참미르 님! 참여해주셔서 감사합니다. 팀원들 중에 몇 명은 개인 사비로 사용 중인데 문헌/유사사례 검색이나 요약, 간략한 서식 작성 등에 주로 사용하더라고요. 다른 팀 중에서는 아예 회사 경비로 신청하여 좀 더 높은 버전을 쓰는 곳도 있고요. 저는 아직은 업무에서든 개인적으로든 생성형 AI를 쓰고 있지 않습니다. 다른 것보다도 생성형 AI가 제안하거나 내놓은 결과물을 제가 다시 검증해야 하거나 그것이 사실인지 확인하는 절차가 싫어서 안 쓰고 있어요. (게을러서 새로운 걸 안 배우는 것도 있긴 합니다 😅) 후배들이 만들어 온 자료나, 제가 해오라고 지시하거나 부탁한 업무 점검하는 것도 어떨 때는 귀찮은 데 'AI도 내가 봐야 하나?' 라는 생각이 들어서요.. 개인적으로 이번 책을 고른 이유는, AI 사용법이나 거기에 대한 적응 또는 미래예측과 트렌드를 주로 설명하는 책들이 서점을 지배하고 있는 상황에서 혼자 삐딱선(?)을 타는 것이 눈에 들어왔기 때문입니다. 남들이 다 하는 비슷한 말들 속에서 낭중지추처럼 존재감이 드러난다고 해야 할까요. 이런 종류의 책들을 좋아하기도 하고, 또 마침 주제가 AI라서 골라봤는데 전 만족스럽게 읽고 있습니다. 단지 노동시장만이 아니라 AI가 소모하고 있는 환경, 자본, 감정, 창의성에 이르기까지 AI와 빅테크 그리고 언론들이 주목하지 않거나 가리고 있는 뒷모습을 다각도로 볼 수 있는 점도 마음에 들고요. AI에 대해서는 낙관론과 비관론이 모두 공존하고 있지만, 미래학자들은 '어정쩡하게 AI가 대체하는 미래'가 올 거라는 예측들이 있습니다. 완전 대체의 시대가 아닌, 기존 직업들이 가진 업무의 상당 부분과 %가 조각난 퍼즐이나 헤진 옷처럼 여기저기 부분부분 AI가 대체하고 있는 미래 말이죠. 사실 AI 시대가 오더라도 많은 중소기업이나 자금력이 부족한 회사들은 AI 활용이나 대체를 적용하기 어려울 겁니다. 예를 들어 산업현장에서도 보면 아직까지도 이런 설비나 소프트웨어가 굴러가나 싶을 정도로 오래된 장비들을 사용 중인 곳들이 있죠. 하지만 그럼에도 전체로서의 기능은 여전히 작동합니다. AI 시대 이전에 우리가 살고 있는 인터넷과 디지털 시대가 세상의 풍경을 바꾸었어도, 아직 디지털화가 완전히 세상 모든 곳에 균질하게 퍼지지 않은 것처럼 결국에는 기업들의 가치판단 기준인 '수익성'에 따라 어디까지만 대체할지를 부분적으로 선택할 것 같습니다. 문제는 개개인들에게는 그런 '어정쩡한 미래'가 가장 대비하기 어렵고 모호하다는 점이겠죠. https://www.g-enews.com/article/Global-Biz/2025/10/20251011164919257fbbec65dfb_1

“오늘날의 AI 산업은 식민주의적 착취 구조의 최신 버전일 뿐이며, 이 시스템은 노동자들이 구조 자체를 바꿀 수 없도록 철저히 설계되어 있다.” - 본문 중에서

기계가 인간을 닮아가기 위한 과정 속에서 창의성과 예술을 탐구해가는 과정을 다룬 책이 있습니다. 과학소설과 판타지소설 작가 로저 젤라즈니의 단편 <프로스트와 베타>는 인류가 사라진 세계에서 주어진 명령에 따라 지구를 생명과 인간이 다시 살 수 있는 환경으로 복구하는 기계들이 나옵니다. 책의 주인공 프로스트는 인간이 살 수 있는 환경이 무엇인지를 알려면, 인간에 대해 알아야 한다고 판단해 과거 인류가 남겨놓은 온갖 쓰레기나 잡동사니 또는 문헌과 영상자료들을 여기저기서 수집하고 분석합니다. 그러던 중 작은 이동기계 '모르델'이 찾아와 프로스트는 그 스스로가 인간이 아니기 때문에 아무리 분석하고 노력해도 인간을 근본적으로 이해할 수 없다고 지적합니다. 이에 프로스트는 충분히 많은 시간과 데이터만 주어진다면 기계도 인간을 이해할 수 있다고 반박합니다. 그리고 이 둘은 서로의 주장을 증명하고자 기계가 예술작품을 만들 수 있는지 실험하기로 합니다. 책에 나온 그들의 대화 일부를 한 번 읽어보시면 좋을 것 같습니다.

"그래, 이건 예술인가?" "나도 모르겠소." 모르델이 말했다. "예술일 수도 있겠군. 어쩌면 예술의 기법에 숨은 규칙이 무작위성일지도 모르겠소. 나로서는 이 작품을 이해할 수 없으니 평가할 수도 없소. 따라서 단순히 이 작품을 제작할 때 사용한 기법을 확인하는 대신, 작품 내면에 숨은 요소를 탐구해야 할 듯하오. 인간 예술가들은 그런 식으로 예술을 창조하지 않았소. 그들이 대상에서 중요하다고 여긴 특징이나 기능을 그려내기 위해서 기법을 사용했지." "중요하다? 어떤 의미로 사용한 단어인가?" "지금 이 맥락에서 말이 되는 유일한 의미요. 인간성에 의거한 중요성. 그 대상이 인간에게 감동을 주었기 때문에 강조할 중요성이 생기는 것이오." "어떤 방식으로?" "당연하지만 그 또한 인간성을 경험해야 알 수 있는 방식 아니겠소."

"당신에게는 새로운 기계를 설계하는 것과 같은 일 아니었소? 당신의 여러 지식을 능률적인 형태로 조합해서, 당신이 원하는 기능을 얻어내도록 만든 것이오." "그렇다." "내가 이해한 이론에 따르면, 예술은 그런 식으로 창조되는 것이 아니오. 예술가 본인은 종종 완성된 작품에 어떤 특질이나 효과가 포함될 지를 모른 채 작업하곤 했소. 당신은 인간의 논리적 피조물이오. 예술은 비논리요." "나는 비논리를 이해할 수 없다." "인간이 근본적으로 이해 불가능한 존재라고 이미 말하지 않았소."

아마존이 노동자들의 근육 사용량을 분석한다는 내용이 궁금해서 주석 링크를 읽어봤습니다. 2020년 주주들에게 보내는 서한에서 회사의 성과 및 그동안의 개선사항, 앞으로의 개선점 등 다양한 사안을 CEO 제프 베조스가 적은 이 문서에는 직원복지 및 노동환경 개선의 일부가 적혀있는데요. 한 번 읽어보시면 좋을 것 같습니다. (원문을 직역한지라 번역이 조금 어색할 수 있습니다.) "우리는 작업자들의 안전 문제에 몰두하고 있습니다. 예를 들어, 아마존에서 일어난 업무상 부상의 약 40%는 근골격계 질환(MSD)으로 염좌나 발목을 접지르는 경우로서 주로 반복적인 동작에서 발생합니다. 근골격계 질환은 아마존과 같은 작업환경과 업무에서는 자주 일어날 수 있는 일이며, 특히 직원 입사 후 첫 6개월 내에 주로 일어납니다. 우리는 육체노동에 처음 종사하는 직원들의 근골격계 질환을 낮출 해결책을 만들려고 합니다." "워킹웰 프로그램은 그 중 하나로, 2020년부터 북미 및 유럽 대륙에 걸쳐 존재하는 350개의 사업장에서 근무하는 85만 9천명의 직원들을 대상으로 안전과 신체동작 원리, 선제적인 예방조치를 교육 중입니다. 이를 통해 작업장에서의 부상을 줄일 뿐만 아니라, 일상의 야외활동에서도 긍정적인 결과를 얻을 수 있습니다." "우리는 작업자들의 근골격계 질환 부상 위험을 낮추고 반복작업으로 인한 부담을 줄이고자 다양한 작업에 요구되는 근육부위의 자극을 알고리즘으로 분석하여 직원들의 업무 일정을 자동으로 조정하는 프로그램을 개발 중입니다. 이 새로운 기술은 2021년 내에 선보일 예정인 직무 순환 프로그램의 핵심이기도 합니다." "이와 같은 조기의 MSD 예방과 방지에 대한 관심 덕에 이미 눈에 띄는 결과가 도출되고 있습니다. 2019년에서 2020년 사이 전반적인 MSD 발생률이 32% 줄어들었고 이로 인한 결근도 절반 이상 감소했습니다." https://www.aboutamazon.com/news/company-news/2020-letter-to-shareholders

하지만 아마존의 개선 노력과는 별개로 최근까지도 아마존 노동자들은 다른 동종산업 종사자 대비 근육 및 관절 부위의 부상 위험이 4배 이상 높다고 합니다. 특히 2015년에서 2017년 사이에 근골격계 질환 부상이 급증했는데 제프 베조스가 2020년 서한에서 근육 사용량을 분석하겠다고 선언한 이유도 이런 배경과 압박이 있었기 때문인가 봅니다. 워싱턴주 노동산업부는 아마존 노동자들이 유독 다른 물류창고 작업자들보다 부상 위험이 높은 이유가, 아마존 창고 특유의 '매우 높은 화물 처리 속도' 때문이라고 분석했습니다. 아마존의 2일내 배송완료 정책을 준수하기 위해서는 작업장 어디서나 높은 수준의 업무 강도가 장시간에 걸쳐 유지되어야 하기 때문이죠. 근골격계 질환은 추락에 의한 부상과 달리 장기간에 걸쳐 누적되어 나타나는 만큼, 치료하는 데도 장기간의 시간이 소요되기에 발병하면 일상만이 아니라 업무에 복귀하는 것도 어려워질 수 있다고 합니다. 아마존의 경우 MSD로 인해 결근한 작업자들은 다시 일을 할 수 있는 수준으로 회복하기까지 평균 103일이 소요되었다고 합니다. https://www.businessinsider.com/amazon-musculoskeletal-disorders-four-times-higher-2022-3

아마존이 내세우는 근육 자극량의 분석을 통한 작업 순환배치가 과연 회사의 의도만큼 근로자를 배려한 조치인지는 생각해봐야 할 문제입니다. 아마존은 직원들의 근육 자극이 한 곳에 집중되지 않도록 '효율화' 하겠다고 했지, 근본적으로 자신들의 빠르고 강도 높은 작업 환경과 속도를 줄이거나 개선하겠다고는 말하지 않았죠. 다르게 생각하면, 아마존은 육체 노동자들의 결근과 부상위험을 낮춰 업무 품질을 계속 유지하려는 목적이 1순위일 겁니다. 또한 작업자들의 부상으로 인한 이탈율을 줄여 채용과 인력모집에 소요되는 비용과 시간을 최소화 하려는 의도도 있을 테고요. 작업자들의 근육 자극을 분산한다는 건 다르게 말하면 한 명의 직원이 수행해야 할 육체노동의 유형이 늘어난다는 의미입니다. 즉 한 라인이나 한 구역에서만 일하면 되었던 노동자는 이제 다른 업무까지 추가로 수행해야 하는 거죠. 과연 그 대가로 작업자들의 경제적 보상이나 인정이 비례해서 오를까요? 그렇지 않다면 작업자들은 결국 아마존의 알고리즘에 따라 이제는 '모든 근육이 한 순간도 쉬지 않고 일해야 하는' 순환 근무를 강요당하는 건 아닌가 걱정이 되었습니다.