[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

4장에서 다루는 성우의 사례는 비단 성우만의 문제가 아닌, 모든 유무형의 창작과 그로 인한 결과물로 생계를 유지하는 예술가나 크리에이터 직업군 모두에 해당되는 얘기죠. 예술이나 창작이라는 말에서 여러분은 어떤 관념이나 이미지가 머리에 떠오르시나요? 고독하게 자신만의 작업실에서 몰두하고 고뇌하는 작가나 화가일 수도 있고, 여러 사람 앞에서 다른 멤버들과 함께 춤과 노래를 선보이는 아이돌이나 가수일 수도 있을 겁니다. 또는 시청자들에게 공감과 재미를 주기 위해 노력하는 방송인이나 인터넷 스트리머도 있겠죠. 책의 중간에서도 언급되듯 많은 예술가나 크리에이터들은 자신의 본업만으로 생계를 유지하는 경우가 많지 않습니다. 다양한 부업을 겸하고, 자신의 재능을 활용할 수 있는 소소한 일거리들을 여기저기서 구하는 방식으로 생활비를 충당합니다. 또한 예술은 단지 '창작자'들만의 산업이 아니라 실제로는 굉장히 많은 직간접적인 종사자들이 엮여있는 광범위한 생태계이기도 하죠. AI에 의한 예술의 대체에 있어 우리는 인간의 창조성과 예술적 기질이 빼앗기는 것인가를 주로 생각하지만, 이런 개념은 예술이라는 분야를 '창작하는 소수'로만 시야를 제한하는 것일 수도 있습니다. 창의성은 종종 타고난 재능으로서 천재성과 결부되며, 예술적 기질을 타고난 예술가들만이 창작을 할 수 있다는 인식이 있습니다. 하지만 실제 예술에 종사하는 사람들 중에는 예술가만 있지 않죠. 당장 미술관만 하더라도 미술관의 운영과 유지를 위한 행정사무직, 안내원, 큐레이터, 작품/문서 복원가, 설치전문가, 행사 준비인원 등 여러 사람들이 종사하고 있습니다. 예술가의 작품은 분명 예술과 창작의 영역에 있어 중요한 핵심이지만 그 핵심이 대중 앞에 나타나기 위해서는 많은 지원과 보조가 필요하죠. <일은 당신을 사랑하지 않는다>에서는 예술 분야에 대한 천재성의 신화가 하나의 산업으로 굳어졌으며, 이로 인해 다양한 종사자들이 마땅한 보상과 인정을 받지 못한다고 지적합니다. 예술에 있어 천재성이 결합되기 시작한 건 서양에서 산업혁명으로 인해 여러 재화와 상품이 대량 생산이 가능해진 때로 보고 있습니다. 온갖 물건이 쏟아져 나오지만 예술품은 예술가가 시간과 노력을 한정시켜 소량만 만들 수 있었고 이로 인해 예술품의 몸값이 올라갔기 때문입니다. art의 단어의 뜻 중에는 예술 외에도 '기교, 솜씨, 기량, 재능'이라는 의미가 있듯 본래 예술가는 르네상스 시기에는 부호나 성직자들을 위해 '그림을 그리는 능력을 가진 자'였습니다. 하지만 예술의 가치가 올라가면서 이들의 능력은 차츰 순수하면서도 초월적인 개념으로 변해갑니다.

현대 예술의 생산과 유통은 우리가 생각하는 것 이상으로 기업화 되고 있기도 합니다. 일부 거장 예술가들은 대형 스튜디오를 설립하고 수많은 인턴 또는 예술 종사자들이 함께 모여 예술가의 아이디어를 대신 작품으로 만들기도 하고요. 이 과정에서 종종 이들도 가혹한 노동조건과 박봉에 시달립니다. 이는 현대로 넘어올수록 예술이 점차 자본으로부터 자유롭지 못해서 생기는 현상입니다. 예술의 생산 단계부터 유통과 전시에 이르기까지 자본주의 체제 안에서 작동하기 때문에 자본이 개입하지 않는 곳이 없기 때문이죠. 그나마도 성공이나 명성을 얻지 못한 다수의 예술가나 종사자들은 헝그리 정신이라는 명목으로 열악한 근무조건에 머리를 숙여야 합니다. AI가 예술의 속성과 본질을 정당한 보상이나 저작권법의 준수 없이 무단으로 수집하고 재생산 하는 것도 분명 문제죠. 하지만 이는 AI-예술가라는 하나의 구도만을 조명할 뿐 더 대형예술가와 거기에 고용된 종사자, 미술관이나 스튜디오 같은 산업화된 예술 기관과 단독예술가의 관계 같은 다양한 관계성도 생각해 볼 필요가 있습니다. AI가 예술가와 예술을 착취하고 창의성을 고갈시키는 문제 못지 않게, 기존 예술의 영역에서 소외되는 직군과 불공정 또한 개선되어야 하죠.

4장 아일랜드의 예술가 이야기도 제가 매우 흥미를 가지고 있는 주제입니다. 예전에 산업혁명과 기계의 발달, 자동화는 신체 노동자들의 일자리를 위협했고 창의적인 작업을 하는 예술가들이 가장 안전할 거라고 생각했는데 어느새 ai가 작사 작곡도 하고 소설도 쓰고 그림도 그리기 시작했어요. 이에 대해 최근에 재미있게 읽은 책 "영원을 향하여"에서 ai가 시를 쓸 수는 있어도 시를 감상하는 것은 더 어렵다고 했던 것이 생각나네요. 저는 여전히 ai는 창의적인 것이 아니라 통계를 바탕으로 창의를 흉내낸다고 생각한다는 점에서 칸트가 정의한 예술에 동의하는 편이에요. 사실 기계와 사람의 협업을 통해 더 큰 감동을 주는 좋은 작품을 만들 수 있을텐데 결국 자본주의는 ai 기술을 핑계로 어떻게든 창작자들을 착취하려고 한다는 것이 문제겠죠.

@Alice2023 님, 의견 감사합니다. 인공지능을 개발하고 사용하는 주체들의 의도가 조금씩 다를 순 있어도 어느 방향이든 창작자들의 생계를 위협한다는 점 그리고 창작의욕을 침해하는 방향이라는 공통점이 문제 같네요. 요즘 돌아다녀 보면 건물 대형 전광판이나 지하철 스크린 등에서 AI로 만든 듯한 인물들이 들어간 광고가 보이더군요. 또한 개인들은 미드저니 같은 이미지 가상 생성 AI로 본인들의 생각이나 아이디어를 시각적 수단으로 표현하지 못하던 사람들이 작업물을 만들고 있죠. 기업은 비용과 제작기간의 절감이라는 관리적 측면을, 개인은 부족했던 창조의 욕구를 실현하는 수단으로서 사용한다는 차이가 있지만 이 두 방향 모두 기존 창작자들에게는 위협적이죠. 전자의 경우는 노동시장과 업무의 구조적 기반 자체가 흔들리는 문제이기 때문에 크리에이터들의 생계라는 전체 파이 크기 자체를 줄이는 문제라면, 후자의 경우는 AI 사용자들이 본인도 의도하지 않게 창작자들의 작업물을 부당하게 사용하고 배포하는 '간접적인 가해자'가 된다는 점이죠. 책에서도 나오듯 일부 이미지 생성형 AI들은 데비안아트, 픽시브 등 여러 아티스트들이 자신의 그림을 업로드하고 공유하던 커뮤니티나 플랫폼의 자료들을 무단으로 학습자료로 사용한 이력들이 있습니다. 그림 실력이 없는 개인들은 자신이 원하는 작가의 그림체나 화풍을 손쉽게 얻을 수 있지만, 정작 그 특성을 물리적으로 구현하기까지 오랜 시간과 노고를 들인 작가들에게는 어떠한 인정이나 보상도 돌아가지 않죠. 만일 이미지 생성 AI의 개발자들이 이런 문제, 저작권과 창작자들의 생태계를 더 고려했더라면 이런 문제를 최소화 할 수도 있었을 겁니다. 하지만 이미 그들의 개발과정은 어느 순간부터 저작권을 무시하고 있었죠. '정당한' 방식으로 AI를 훈련하고 교육하려고 하면 저작권에 대한 보상 그리고 시간의 소요로 인해 경쟁에서 뒤처지는 구조적 압력이 이들에게도 작동했겠죠. 결국 책의 저자들이 말하는 것처럼, AI가 개발의 시작부터 배포와 사용단계에 이르기까지 자본주의 내에서 통용되고 자본의 논리가 이를 합리화하는 한 AI는 절대로 가치중립적일 수 없음을 다시 한 번 보여주고 있네요. 물론 이미 예술과 창작도 하나의 '산업'이 되었고 그곳에도 대규모 자본의 논리가 이전부터 개입되어 있었죠. 하지만 AI시대의 창작가들이 겪어야 하는 문제가 이전가 다른 점에 대해 전 이렇게 생각합니다. 과거에는 독립된 개인이 혼자 작업하든, 기업이나 대규모 스튜디오가 작업하든 창작활동을 위한 여러 방면의 노고와 시간이 필요했습니다. 작업물의 흥행이나 질적 수준 또는 정당한 보상은 별개로 하더라도 개인이든 단체든 창작의 고통은 모두가 겪어야 하는 문제였죠. 심적으로 괴로워 해야 하고, 많은 자본을 투입하고도 흥행에 실패해야 했으니까요. 그러나 AI가 현재 모방하고 있는 창조활동은 그런 기존 시대에 당연시 되었던 창작의 고통이 이제 의미 없다는 듯 무한한 자가복제의 형태로 불어날 여지가 생겼다는 점일 겁니다. 이전에 적었던 내용처럼 산업혁명 시기에 오히려 예술이 가치를 부여받게 된 이유는 공산품들과는 다른 생산의 희소함에 반비례하는 가치의 농도 때문이었죠. 그러나 이제 공장처럼 찍어내는 수준을 넘어 복사와도 같이 불어나는 AI의 작업물들은 더이상 희소성은 없게 되었죠. 모래알처럼 늘어나는 복제품을 보면서 우리가 가치를 느끼기는 어려울 겁니다. AI를 통해 예술적 기교와 접근이 어려웠던 개인들이 자신의 창작욕구를 표현할 날이 왔다고 보고 싶지만, 그보다는 '좌우 안 가리고 직진'으로 향하는 길이 뚫린 게 아닌가 생각해 봅니다.

공감합니다. 창작자들의 수많은 노력을 데이타로 차곡차곡 쌓은 뒤 무한 증식해서 기존 창작자들의 노력을 평가절하시켜 버리는 현실에 대해 장강명 작가님의 책이 떠올랐어요. AI 가 훌륭한 작품을 1000개씩 찍어낸다면 사람이 정녕 거기서 감동을 느낄 수 있을지 질문을 던지셨죠. 작품 자체에 대한 감동뿐만 아니라 그런 작품을 만든 창작가의 고민과 노력, 그리고 희소성에 대한 것까지 함께 통틀어서 "감동" 이라고 하는것 아닐까요.

이 편리함 뒤에 누가 서 있을까요 유튜브에서 AI가 만든 노래를 들었습니다. 원곡 가수의 목소리와 구분할 수 없었습니다. 댓글 창을 내렸습니다. "이제 성우도 필요 없겠네." 저는 그 댓글을 보고 불편했습니다. 하지만 그 노래를 끝까지 들었습니다. 편리하다는 생각과 함께, 묘한 죄책감이 밀려왔습니다. 아일랜드의 성우 로라는 자신의 목소리를 학습한 AI와 경쟁합니다. 로라의 목소리는 이제 로라만의 것이 아닙니다. 누군가는 그 목소리를 더 싸게, 더 빠르게 쓸 수 있습니다. 로라는 자신의 목소리로 일자리를 잃습니다. 책 <AI는 인간을 먹고 자란다>는 이렇게 말합니다. 진짜 위험은 AI가 예술을 창조한다는 것이 아닙니다. 이 기술이 권력자에 의해 남용되어, 창작자를 착취하는 수단이 된다는 것입니다. 저는 오래 생각했습니다. 창의력도 AI가 복제합니다. 데이터 처리 능력은 인간이 따라갈 수 없습니다. 그렇다면 인간과 AI의 차이는 무엇일까요. 어쩌면 인간다움은 비합리적인 것에 있는지도 모릅니다. 누군가를 착취하려는 욕심도 인간다움입니다. 최소 비용으로 최대 이익을 얻으려는 것도. 새벽 배송을 주문하면서 '노동자가 힘들겠지'라고 생각하는 것도. 그러면서도 다시 버튼을 누르는 것도. AI는 프로그램대로 움직인다고 생각했습니다. 합리적이고 공정할 것이라고 상상했습니다. 하지만 그 뒤에는 여전히 인간의 노동이 있습니다. 플랫폼 노동자는 알고리즘에 통제받으며 일합니다. 성우는 자신의 목소리를 학습한 AI와 경쟁합니다. 고객은 새벽 배송을 받지 못할까 봐 걱정합니다. 누군가는 말했습니다. "사람의 일은 사람이 해결해야 합니다." 기술은 사람의 일을 개선할 수는 있어도, 해결하지는 못한다고. 기술 낙관론자들은 말합니다. 기술이 모든 것을 해결할 것이라고. AI가 인간을 자유롭게 만들 것이라고. 하지만 로라의 목소리를 훔쳐 쓰는 것은 AI가 아닙니다. 인간입니다. 새벽 배송 노동자를 알고리즘으로 통제하는 것도. 최소 비용으로 최대 이익을 얻으려는 것도. 그러면서 "기술이 발전했다"라고 말하는 것도. 문제는 기술이 아니었습니다. 기술을 어떻게 사용하느냐였습니다. 스스로에게 묻습니다. 정말 AI가 인간을 닮아가는 것일까요. 아니면 인간이 AI를 닮아가는 것일까요. 스마트폰 화면 속에서 AI가 만든 노래가 또 재생됩니다. 저는 손가락을 듭니다. 다음 곡을 누르기 전에, 잠깐 멈춥니다. 이 편리함 뒤에 누가 서 있을까요.

@RAMO 님의 마지막 부분 말이 좋네요. 우리가 AI를 닮아가고 있는 것은 아닌가 하는 물음. 인공지능만이 아니더라도 역사에서 인류를 이끌어 온 지배적 가치나 체제들은 우리가 과연 정말로 그렇게 살기를 원하여 만들어진 건지, 아니면 소수의 누군가가 그렇게 유도한 것인지 궁금할 때가 있습니다. 신분과 계급에 의한 차별이 그러했고, 인간을 가축과 같은 소유물로 본 노예제가 그랬으며, 생산수단에서는 혁명이 일어났지만 그 생산물을 산출하기 위한 노동력의 가치는 절하된 산업시대가 그러했습니다. 대항해시대와 식민주의 시기에는 특정 문화권이나 인종이 다른 집단을 지배하기 위한 정당성을 과학/기술에서 끌어와 명분으로 쓰곤 했죠. 과연 그것들이 정말로 우리 인류가 원하던 시대였을까 의문이 들곤 합니다. AI시대의 도래를 우리 스스로는 과연 얼마나 정말로 원하고 있을까요. 아니면 빅테크 기업들과 창업가/혁신가/투자자들이 원하는 것일까요. 많은 IT기업들과 리더들은 개인이 시대를 이끌어가는 운명이 온다고 강조하지만, 형태만 다를 뿐 결국 또 시대가 개인을 끌고 가는 운명이 반복되는 것은 아닌지 생각해 봤습니다.

이제야 책모임을 훑어봤네요. 무척 관심가는 책입니다. 저는 요즘 제미나이를 많이 사용하고 있는데, 한편으론 ai가 집단지성의 산물이기에 인간이 Ai와 경쟁하거나 밀려나거나 종속된다기 보다는 새로운 도구가 우리 손에 쥐여졌고, 특히 지식공유가 쉬워져 어떤 면에선 평등이 실현된 측면도 있다고 생각하고 있습니다. 그리고 이러한 집단지성은 인류가 역사를 통해 집적한 거대한 노동의 산물이기에, 그로 인한 이익이 있다면 모든이가 함께 누리는 것이 맞다는 생각도 합니다. 한편으로 아직 책을 구해보지 못했으나 ai라는 것이 마치 객관성과 가치중립성을 지닌 기계적 존재로 인식되는 게 하나의 함정일 수 있음을 방대한 사례를 통해 보여주고 있는듯하여 무척 관심이 갑니다. 뭣보다 it기업, 플랫폼기업의 독점 문제와 이로 인해 기하급수적으로 팽창할 전력소비량이 얼마나 환경문제나 노동자들이나 저개발 국가의 희생을 요구할지도 어두운 이면이라 할 수 있을것같고요 일단 피부로 느껴지는것은 한국과 같은 육체노동에 대한 차별적 인식이 고학력을 부추겨 대졸자가 전국민의 80%에 이르는 나라에서 그동안 젊은이들의 신규취업에서 노동다운 노동으로 인식되어왔던 지적노동이 빠르게 ai로 대체되고 있는 문제이고요. 제 생각에 대안은 노동시간을 줄여 혁신의 열매를 나누는 것과, 선망해왔던 지적노동보다 비용문제로 ai가 대체하기 어려운 서비스직이나 복합적인 육체노동에 대한 시각변화와 처우개선이 해법이 아닌가 싶습니다. 어쨌든 뒤늦게 좋은 책을 발견하여 늦게라도 구해서 읽어보고 동참할 수 있으면 좋겠네요

안녕하세요 @참미르 님! 참여해주셔서 감사합니다. 팀원들 중에 몇 명은 개인 사비로 사용 중인데 문헌/유사사례 검색이나 요약, 간략한 서식 작성 등에 주로 사용하더라고요. 다른 팀 중에서는 아예 회사 경비로 신청하여 좀 더 높은 버전을 쓰는 곳도 있고요. 저는 아직은 업무에서든 개인적으로든 생성형 AI를 쓰고 있지 않습니다. 다른 것보다도 생성형 AI가 제안하거나 내놓은 결과물을 제가 다시 검증해야 하거나 그것이 사실인지 확인하는 절차가 싫어서 안 쓰고 있어요. (게을러서 새로운 걸 안 배우는 것도 있긴 합니다 😅) 후배들이 만들어 온 자료나, 제가 해오라고 지시하거나 부탁한 업무 점검하는 것도 어떨 때는 귀찮은 데 'AI도 내가 봐야 하나?' 라는 생각이 들어서요.. 개인적으로 이번 책을 고른 이유는, AI 사용법이나 거기에 대한 적응 또는 미래예측과 트렌드를 주로 설명하는 책들이 서점을 지배하고 있는 상황에서 혼자 삐딱선(?)을 타는 것이 눈에 들어왔기 때문입니다. 남들이 다 하는 비슷한 말들 속에서 낭중지추처럼 존재감이 드러난다고 해야 할까요. 이런 종류의 책들을 좋아하기도 하고, 또 마침 주제가 AI라서 골라봤는데 전 만족스럽게 읽고 있습니다. 단지 노동시장만이 아니라 AI가 소모하고 있는 환경, 자본, 감정, 창의성에 이르기까지 AI와 빅테크 그리고 언론들이 주목하지 않거나 가리고 있는 뒷모습을 다각도로 볼 수 있는 점도 마음에 들고요. AI에 대해서는 낙관론과 비관론이 모두 공존하고 있지만, 미래학자들은 '어정쩡하게 AI가 대체하는 미래'가 올 거라는 예측들이 있습니다. 완전 대체의 시대가 아닌, 기존 직업들이 가진 업무의 상당 부분과 %가 조각난 퍼즐이나 헤진 옷처럼 여기저기 부분부분 AI가 대체하고 있는 미래 말이죠. 사실 AI 시대가 오더라도 많은 중소기업이나 자금력이 부족한 회사들은 AI 활용이나 대체를 적용하기 어려울 겁니다. 예를 들어 산업현장에서도 보면 아직까지도 이런 설비나 소프트웨어가 굴러가나 싶을 정도로 오래된 장비들을 사용 중인 곳들이 있죠. 하지만 그럼에도 전체로서의 기능은 여전히 작동합니다. AI 시대 이전에 우리가 살고 있는 인터넷과 디지털 시대가 세상의 풍경을 바꾸었어도, 아직 디지털화가 완전히 세상 모든 곳에 균질하게 퍼지지 않은 것처럼 결국에는 기업들의 가치판단 기준인 '수익성'에 따라 어디까지만 대체할지를 부분적으로 선택할 것 같습니다. 문제는 개개인들에게는 그런 '어정쩡한 미래'가 가장 대비하기 어렵고 모호하다는 점이겠죠. https://www.g-enews.com/article/Global-Biz/2025/10/20251011164919257fbbec65dfb_1

“오늘날의 AI 산업은 식민주의적 착취 구조의 최신 버전일 뿐이며, 이 시스템은 노동자들이 구조 자체를 바꿀 수 없도록 철저히 설계되어 있다.” - 본문 중에서

기계가 인간을 닮아가기 위한 과정 속에서 창의성과 예술을 탐구해가는 과정을 다룬 책이 있습니다. 과학소설과 판타지소설 작가 로저 젤라즈니의 단편 <프로스트와 베타>는 인류가 사라진 세계에서 주어진 명령에 따라 지구를 생명과 인간이 다시 살 수 있는 환경으로 복구하는 기계들이 나옵니다. 책의 주인공 프로스트는 인간이 살 수 있는 환경이 무엇인지를 알려면, 인간에 대해 알아야 한다고 판단해 과거 인류가 남겨놓은 온갖 쓰레기나 잡동사니 또는 문헌과 영상자료들을 여기저기서 수집하고 분석합니다. 그러던 중 작은 이동기계 '모르델'이 찾아와 프로스트는 그 스스로가 인간이 아니기 때문에 아무리 분석하고 노력해도 인간을 근본적으로 이해할 수 없다고 지적합니다. 이에 프로스트는 충분히 많은 시간과 데이터만 주어진다면 기계도 인간을 이해할 수 있다고 반박합니다. 그리고 이 둘은 서로의 주장을 증명하고자 기계가 예술작품을 만들 수 있는지 실험하기로 합니다. 책에 나온 그들의 대화 일부를 한 번 읽어보시면 좋을 것 같습니다.

"그래, 이건 예술인가?" "나도 모르겠소." 모르델이 말했다. "예술일 수도 있겠군. 어쩌면 예술의 기법에 숨은 규칙이 무작위성일지도 모르겠소. 나로서는 이 작품을 이해할 수 없으니 평가할 수도 없소. 따라서 단순히 이 작품을 제작할 때 사용한 기법을 확인하는 대신, 작품 내면에 숨은 요소를 탐구해야 할 듯하오. 인간 예술가들은 그런 식으로 예술을 창조하지 않았소. 그들이 대상에서 중요하다고 여긴 특징이나 기능을 그려내기 위해서 기법을 사용했지." "중요하다? 어떤 의미로 사용한 단어인가?" "지금 이 맥락에서 말이 되는 유일한 의미요. 인간성에 의거한 중요성. 그 대상이 인간에게 감동을 주었기 때문에 강조할 중요성이 생기는 것이오." "어떤 방식으로?" "당연하지만 그 또한 인간성을 경험해야 알 수 있는 방식 아니겠소."