[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

D-29
또한 AI에 대한 개념 자체가 종종 백인성이라는 인종적 틀 안에서 포장된다는 점도 생각해 볼 필요가 있다. 예를 들어, AI를 묘사한 이미지를 검색해 보면, 마케팅 자료나 투자자 대상 프레젠테이션에서 사용되는 수백 개의 흰색 휴머노이드 로봇 이미지가 등장한다.
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.104, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
이전 파트에서 나오는 내용이지만 저자가 설명하는 '백인성'의 개념이 무엇인지 궁금해서 찾아봤습니다. 캠브리지 대학 연구교수 Stephen Cave과 공동참여자인 Kanta Dihal이 함께 조사한 이 연구보고서는 AI 및 로봇의 영역에 있어 백인성(Whiteness)이 우리도 모르는 사이 어떻게 형성되었는지를 파헤치는데요. 대중에게 공개된 내용이므로 관심있는 분들은 하기의 링크로 직접 가서 볼 수 있습니다. https://link.springer.com/article/10.1007/s13347-020-00415-6
- 보고서의 내용을 직역했기 때문에 다소 문장이 어색할 수 있습니다. - <기계도 인종으로 구분될 수 있다> 로봇이나 AI라는 단어를 검색하면 흰색 또는 백인의 외견을 띄고 있는 로봇이 등장하는 다양한 이미지들을 볼 수 있습니다. 우리도 모르는 사이, '지능을 가진' 기계에 대한 우리의 관념과 인식에는 인종에 기반한 해석이 개입하고 있죠. 이러한 '백인성'이야말로 AI에 대해 우리가 무엇을 희망하거나 반대로 두려워 하는지를 보여주는 장치라고 할 수 있습니다. 그리고 더 나아가 기술이라는 개념에 있어 인종에 기반한 관념구조가 형성되어 있다는 뜻입니다. 인종화는 개인의 특성을 두상이나 골격, 피부색 같은 신체적 특징으로 설명하거나 규범화하려는 경향입니다. 또한 그러한 신체적 특징을 문화적 특성으로 결부 지으며, 이를 바탕으로 사회적 위계를 나눠 우열함과 열등함을 구분지으려는 반복적인 시도이기도 합니다. 문화적 특성에는 방언이나 특정한 말투, 복식 외에도 자질(근면함, 성실함, 신뢰감, 창의성, 지적능력) 과 같은 구분이 포함됩니다. 이런 문화적 특성들은 신체적 특징과 결합하여 역사적으로 오랫동안 특정 인종의 정신적/도덕적 자질을 판단하는 잣대가 되어왔습니다. 2018년 뉴질랜드 캔터베리 대학 Christoph Bartneck과 연구진은 인간형 로봇 '나오'의 사진을 찍어 로봇의 색감을 백인/흑인의 피부색과 같게 조정한 후 실험 참가자들에게 다른 몇 가지 특성을 제시하며 로봇의 인종을 정의하도록 했습니다. 그 결과, 참가자 중 7~20%의 소수만이 로봇을 인종에 연관시키지 않은 것에 비해 약 53~70%의 다수 집단은 로봇의 색에 근거해 인종을 연관지었습니다. 즉, 인간은 로봇 특히 인간형 로봇에게 있어 인종의 개념을 부여하는 경향이 있다는 의미죠. 인간은 기본적으로 기계를 의인화 하는 경향이 있는데 이는 의인화를 통해 인간과 기계의 상호작용이 보다 쉬워지기 때문에 그럽니다. 기계구조물의 위에 인간의 머리나 두상과 같은 형태를 달아 놓거나, 두 개의 눈이나 시각기관이 있고, 사지가 달려 있으며 이족 보행을 하는 특성 등이 그렇고요. 외형적인 특성 외에도 인간과 같은 목소리, 예의와 유머 같은 인간적 특성을 심기도 합니다. 이 과정에서 인종의 개념이 결부될 수밖에 없습니다. 물리적 실체가 없는 챗봇에게서도 우리는 챗봇이나 에이전트의 명칭에서, 또는 전혀 시각적 요소가 없는 텍스트 기반 대화에서도 방언이나 말투를 기반으로 어떤 식으로든 인간적/인종적 특성을 찾아내게 됩니다. (제이크란 이름에서 백인을, 안토니오에서 히스패닉을 떠올리게 되는 경향) 2018년 텍사스 대학교 리오그란데밸리의 Megan K. Strait와 연구진은 각각 흑인, 백인, 아시아인 여성형의 안드로이드를 묘사한 3개의 비디오를 참가자들에게 보여주고 어느 쪽에 더 비인간적인 반응을 보이는지 분석했습니다. 실험의 의도는 현실에서 특정 인종에게 가해지는 비인간화나 인종차별 발언이 로봇에게도 동일하게 적용되는지를 알아보기 위함이었다고 해요. 실험 당시 흑인 여성형의 안드로이드에게 부정적 발언의 빈도와 수준이 높은 반면, 아시아인과 흑인 여성형 안드로이드에 비해 백인 여성형 안드로이드가 받은 부정적 발언은 절반 아래였다고 합니다. 위의 실험들은 '비인간적'인 기계에게 인간은 의인화 또는 인간으로 해석하는 경향이 있다는 점, 그리고 우리가 현실에서 갖는 인종화와 인종차별이 기계에도 전이될 수 있음을 보여주는 셈입니다.
<AI의 백인성이 드러나는 사례들> 1) 휴머노이드 로봇에서의 백인성 인간형 상용로봇의 상당수가 흰색 기반의 디자인을 바탕으로 하고 있습니다. 이런 현상은 어느 한 순간 형성된 것이 아니라, 초창기의 로봇연구나 로봇제품(장난감)들이 백인 또는 흰색을 바탕으로 한 사례들이 계속 반복/재생되는 연장선으로 봐야 합니다. 인간적 외형, 특히 두상이나 피부색을 최대한으로 배제한 제품들조차 '흰 색' 재질을 주로 사용하고 있는데요. 로봇 Pepper(첫번째 사진)나 Nao(두번째 사진)가 대표적인 사례입니다. 더 나아가 아예 인간적 특성을 반영한 경우, 코카서스계 즉 백인종의 피부와 얼굴로 표현되는 경우들도 있고요. 홍콩에 소재한 기업인 핸슨로보틱스가 개발한 Sophia(세번째 사진)는 UN에도 방문하고 상을 받기도 했습니다. 산업현장에서 쓰이는 로봇 팔이나 조립라인의 자동화 기계들과 달리, 인간과 유사한 휴머노이드의 형상을 갖춘 로봇들은 백인성(Whiteness)이 깃든 경우가 많습니다. 2.챗봇 및 가상 어시스턴트 물리적/외형적 요소가 없이 채팅이나 텍스트만으로 대화하는 챗봇은 인종을 구분지을 시각적 단서가 없음에도 사회언어학적으로 사용자가 인종을 부여하기도 합니다. 1966년 MIT AI연구소에서 개발한 언어처리 프로그램 ELIZA는 백인 중산층 영어를 기준으로 대화했다고 해요. 애플에서는 '시리Siri'를 개발하던 직원들이 싱가폴, 인도, 호주 기반의 다양한 영어 억양을 수집하고 분석했는데 미국흑인 즉 아프리칸-아메리칸의 영어에 대해서는 개발 조직 내에서 '애플의 브랜드 이미지와 프리미엄 고가시장을 목표로 하는 제품 타겟 시장에 어울리지 않는다'며 부정적 반응을 보였다고 합니다. 꼭 로봇이 아니더라도, 시각적으로 인종이나 색을 구분할 요소가 없더라도 인간은 음성이나 대화의 뉘앙스나 문맥 또는 상대의 언어사용 경향성만으로도 인종을 상상하고 부여한다는 얘기입니다. 그리고 기업이나 개발자들이 의도하건 또는 의도하지 않건 개발의 과정에서 이런 인종화가 개입되고 있음을 보여주죠.
3. 스톡 이미지(검색엔진 이미지) 구글 같은 검색엔진에서 로봇과 AI를 검색해보면 나오는 이미지의 대부분은 흰색으로 묘사되는 경우가 압도적으로 많습니다. 특히 로봇의 외양을 보다 구체적이고 사실적으로 인간처럼 묘사할수록 코카서스 백인계의 특징을 띄는 경향이 더 두드러집니다. 이미지들은 언론사들의 기사나 기업들의 발표 자료에도 사용될 뿐만 아니라 업계 전문가나 기술자들의 자료에서도 자주 찾아볼 수 있죠. (첨부 사진들) 이 경향성은 검색엔진이 특정한 생각이나 관념을 사용자에게 부추김과 동시에 사람들이 가진 기존 경향이 검색엔진에 영향을 주는 순환구도입니다. 원인과 결과가 서로 반복되어 계속 영향을 주는 것이죠. 4. 영화와 TV등 대중매체 사실 위와 같은 검색엔진의 이미지들은 수십 년에 걸쳐 서구권에서 대중문화를 통해 표현된 지적 기계가 반영된 결과입니다. 19세기 이래로 AI나 로봇은 매체에서 주로 백인으로 묘사되어 왔습니다. 영화 터미네이터, 로보캅, 블레이드 러너, 아이로봇, 엑스 마키나에 등장하는 로봇들이 그렇죠. 이들 역할을 맡은 배우들은 모두 백인 배우들이었습니다. 아이 로봇의 로봇들은 인간과 같은 피부색을 갖고 있지 않았지만 외견상 재질이 하얀 색으로 묘사되었고요. 스페이스 오디세이의 HAL-9000이나 Her의 사만타처럼 직접적인 물리적 실체가 없는 AI조차도 백인의 목소리로 연기 되었습니다.
지적인 기계의 묘사와 물리적인 결과물에서 백인성이 두드러지게 반복되는 원인을 연구진은 다음과 같이 분석하고 있습니다. <AI에 있어 인종화, 백인성이 나타나는 이유> 1) AI를 개발하는 작업자들 본인의 백인성이 투영된 결과 유럽과 서구 사회에서는 오랫동안 백인 자신들의 피부를 '다른 인종과 마찬가지로 똑같은 피부색'이 아니라 '무색無色'으로 간주해 왔다는 지적입니다. 쉽게 이해하자면 우리나라에서 '살색'이라는 색의 표현이 적절한가에 대한 비유와 같다고 볼 수 있죠. 우리는 우리 자신의 색에 익숙해져 있기 때문에 자기 자신의 피부색을 다른 색과 동일한 색의 범주로 보지 못하는 한계가 있다는 얘기입니다. 즉, 시각적인 색의 개념을 넘어 흰색이 곧 '색이 없는 무특성'의 개념으로 이어져 마치 우리가 숨을 쉬는 공기처럼 투명한 존재인 '기본값'으로 인식하게 된다는 거죠. 과거 역사에서 유색인이라는 표현이 서구와 백인사회에서 어떤 의미인가를 생각해보면 좀 더 쉽게 와 닿을 거에요. 백인 사회에서는 흰 피부가 '인간'으로서의 기본 조건이고 그 외 흑인이나 아랍인, 무어인, 라틴계와 히스패닉, 아시아인 등의 다양한 피부색을 '유색인'으로서 구분짓는 관점 말이죠. 현대에 들어서는 인종이나 피부색으로 남을 판단하고 불이익을 주지 않으려는 중립성이 중요시 되지만 이러한 태도 자체가 백인의 우월성과 헤게모니를 강화하는 개념이 될 수 있다고도 지적합니다. 피부색으로 판단하지 않겠다는 개념의 중심에는 '인종'을 보지 않겠다는 개념이 기본적으로 내포되어 있는데 마치 그것이 도덕적 자산이자 자질인 것처럼 실리콘 밸리의 기술자나 창업가들이 자신들의 '우월성에 기반한 중립적 태도'를 은연중에 드러내고 있다는 거죠. 이런 태도들은 겉으로 보기에는 공정해 보일지 몰라도 오히려 사회 전반에 퍼져있는 백인성의 표준화와 다른 인종에 대한 차별에 대해 역으로 흐린 눈을 갖게 되는 원인이 됩니다. 가령 AI의 안면인식 기술 개발에 있어 흑인이나 아시아인의 얼굴 특징을 분석함으로써 차별이 일어나지 않도록 사전에 차단하겠다는 개발 의도가 역으로 AI에게 백인 외 다른 인종 사용자들의 안면을 인식하지 못하는 오류로 이어질 수 있습니다. 2) 백인의 자질이 AI의 특성과 결부될 때 역사적으로 오랜 기간 백인성은 백인에 대한 인종적 프레임에 개인의 자질과 특성을 결합해왔습니다. 그리고 그런 특성들을 기반으로 제국주의와 분리통치, 억압을 정당화 해왔죠. 연구진은 문명인으로서의 지성, 전문성, 권력이라는 3가지 요소를 설명합니다. 17세기 이후 유럽 대륙에 식민주의가 확산되면서 백인들의 사고관에는 몇몇 인간이 다른 인간에 비해 더 지적이거나 지능이 우월하다는 생각이 자리 잡습니다. 충분히 지적이지 못한 인종이나 민족은 자신들의 운명과 영토를 스스로 관리할 역량이 없다고 간주되었고 보다 '성숙한' 인종이 이를 대신 도맡아야 한다는 명분이죠. 이는 사상적으로, 도덕적으로 제국주의와 식민주의를 정당화할 뿐만 아니라 일종의 사명으로 변질되어 '백인의 의무'로 둔갑합니다. 19세기에는 이러한 지적인 차이를 증명하기 위해 IQ시험과 같은 체계적 증명과 연구의 시도도 있었고요. 수세기에 걸쳐 형성된 백인에 대한 인종적 프레임으로 인해 이런 문화에 노출된 문명권은 '지적인 기계'라는 단어를 상상할 때 백인의 형상이나 이미지를 떠올리게 된다는 겁니다. 또한 AI에 관한 담론의 많은 부분이 앞으로 AI가 얼마나 '전문성'을 갖추게 될 지를 위주로 설명하는 추세죠. AI가 인간의 육체적/정신적 노동을 대신할 수 있다는 믿음이 여기에 해당됩니다. 반면, 전문직(법, 의학, 사업)은 오랜 기간 유럽과 북미에서 특정 인종이 종사할 수 있다는 믿음과 편견이 있어왔고 이에 기반해 종종 고등교육 기관에 다른 인종의 입학을 받아들이지 않은 역사가 있죠. 이런 역사의 흐름은 검색엔진에도 은연중에 깃들어 엔지니어나 의사라는 검색어를 입력하면 보여지는 알고리즘 이미지들이 한동안 백인 위주였던 데서 드러납니다. 지능과 전문성에 있어서 인종에 기반한 우위를 나누고 서열화 하면 자연스레 권력의 서열화도 진행되기 마련입니다. 대중매체에서 종종 AI나 기계가 인간보다 우월해져 반란을 일으키거나 저항하여 인간을 지배하고 전복한다는 서사들을 자주 볼 수 있죠. 이는 백인들이 자신들의 관점으로 '열등'하다고 정의한 종의 특성이 보다 우월한 종에게는 없다는 해석입니다. 즉, 백인들은 세상이 외부로부터 무너지고 정복 당한다면 자신들보다 '우수'한 종족이나 세력을 통해서만 가능하다는 관념이 자리 잡고 있다는 지적입니다. 그리고 여러 매체에서 이런 적대적 기계들은 대개 아놀드 슈와제네거와 같은 육체적/기능적 정점에 위치한 터미네이터나 엑스 마키나의 알리시아 같은 백인 캐릭터로 반영되어 왔고요. 심지어 블레이드 러너에서의 인조인간(레플리칸트)들도 백인들로 묘사되었습니다. 백인의 숙적은 오직 백인 뿐이라는 인식이죠. 이런 인식과 관념이 깔려 있기에 백인 창작가와 예술가들도 자신들이 모르게 '우월한 의인화 된 존재'를 묘사할 때 백인이나 백인과 같은 기계로서 표현하게 되는 것입니다. 3) 백인 유토피아와 타인종의 배제 AI덕에 우리의 삶이 보다 안락해지고 여유로워 지리라는 기대는 '더럽고, 힘들고, 위험한' 일로부터 멀어지고자 하는 욕망과 연결됩니다. 현실에서는 종종 부유층의 여가를 위해 유색 노동자들의 노동력이 필요하지만 그들은 여전히 잘 보이지 않는 곳에서 일합니다. 이런 계층들은 대개 우리의 시선에 띄지 않는 곳에서 활동하며 설령 같은 공간에 놓이더라도 인식하지 않으려는 경향이 있습니다. (손님이나 주인의 시선이나 눈에 크게 띄어서는 안되는 서비스직/봉사직이나, 가사노동을 제공함에도 가족 구성원으로서는 인정받지 못하는 가사노동자들이 비슷한 사례일 겁니다.) 이는 특정 계층이 종사하는 일과 직업에 있어 바람직하지 않은 특성을 연결 짓고 이들과 '접촉하거나 교류하지 않으려는' 가식으로 드러납니다. 이런 관념이 더 발전하면 다른 피부색을 가진 인간에 대해 더럽거나, 더러운 환경에 살거나, 지저분한 일을 한다는 고정관념과 편견으로 변질되기도 합니다. 위와 같은 사고가 극단적으로 발전하면 AI에 의한 노동의 해방은 기존의 유색 인종들이 종사하던 직업과 일자리가 모두 제거된 유토피아로 볼 수 있을 겁니다. 누군가의 허드렛일이나 잡무, 가사를 대신해주거나 위험하고 힘든 일을 하는 유색인이 더 이상 필요 없는 '해방의 자유'죠. * 개인적으로는 3번째 해석은 다소 극단적인 의견이라고 생각도 들었습니다. 하지만 미국 역사에서 오랜 기간 흑인이 경제적 자유와 지위를 보장 받지 못해 많은 흑인여성들이 백인 가정의 가사도우미로 근무해야 했다는 미국 또는 서구권의 특성 때문에 한국인인 우리 입장에서 공감이 안되는 걸지도 모르겠네요.
연구진이 얘기하고자 하는 건 AI에 대한 이미지와 관념이 절대 일반론적이고 중립적이지 않다는 점입니다. 인간처럼 생각하는 기계에 대한 이미지들은 이미 현실과 인간사회가 보여주고 있는 계층적 구조 그리고 그 구조 안에서도 특정 집단만이 부각된 '화신이나 아바타(Avatar)'로 봐야 한다고 지적해요. 이런 현상이 위험한 이유는 인종화와 백인성이 내포된 인식이 AI산업 종사자에 대한 '이상적인 인간상/인재관'의 형성에 있어 특정 인종을 우선시하게 되고 이로 인해 AI를 개발하고 작업하는 집단의 다양성이 줄어들면서 점점 단일화 되기 때문입니다. (이 부분은 책에서도 저자들이 지적했죠. 실리콘 밸리에 기반한 극소수의 기업들과 백인 남성 중심의 IT인력 구조가 현재 AI의 흐름을 재편하고 있다는 점) 또한 백인성에 기반하여 만들어진 AI가 사용자에게 제시하는 제안/결정의 권위가 자칫 다른 집단이나 특정 인종이 가질 수밖에 없는 특수성이나 의견, 이해관계를 비전문적이라는 이유로 무시할 수 있다는 점입니다. 이미 현실에서도 그렇고 인간은 AI의 자동화된 시스템이 내린 결정이 '당연히 인간이 내린 결정보다 나을 것'이라는 기대와 편향을 갖고 선호함이 증명되었죠. 시스템이 도출한 결론이니 오류가 없거나, 공정하다는 기계적 형평성이 과연 인간에게도 그대로 적용할만한 가치일까요? (특정 국가, 지역, 문화권, 이해집단, 인종에 우호적이거나 더 유리한 방향으로 AI가 작동하고 그것이 사법이나 치안의 영역에 적용된다면 '공정성/객관성/중립성'이라는 명분 아래 차별이 합법화 될 수 있다는 지적 같습니다.)
3장은 AI가 우리가 생각하는 것 이상으로 물리적 거점과 환경에 큰 영향을 받으며, 또한 영향을 줄 수도 있음을 암시합니다. 챗GPT에 한 번 물어보거나 검색하여 결과를 얻어내기 위해 필요한 전력이 구글에 검색할 때보다 10배 더 많다고 해요. 즉 생성형AI의 사용 그리고 연구개발과 운용에 있어 엄청난 양의 전력이 요구되는 겁니다. 전기는 친환경 동력원을 통해 얻기도 하지만 화석연료와 원자력도 포함되죠. 친환경 에너지는 지구의 온실효과가 확대될수록 기상조건이 악화되면서 전력 수급이 불안정해지는 역설적인 문제가 있습니다. 환경과 지구를 위한 발전 방식이 오히려 지구의 기후로 인해 차질이 빚어지는 거죠. AI 기술의 질주를 위해서는 환경과 기후의 지속가능성을 양보해야 하는 상태에 다다른 건지도 모릅니다. 데이터 센터는 사용하는 기업과 목적에 따라 규모가 제각각으로, 작은 것은 4평짜리부터 시작해서 책에 나온 '하이퍼 데이터 센터'들은 평균 2,800 제곱미터에 달한다고 합니다. 미국 버지니아는 워싱턴과의 근접성과 더불어 저렴한 전기요금, 우호적인 규제완화로 인해 90년대 인터넷의 본격적인 보급 이래 데이터 센터가 몰린 대표적인 장소입니다. (버지니아 북부에만 250개 이상의 데이터 센터가 밀집해있다고 하네요.) 생성형 AI의 훈련과 운영에 있어 사용자나 직원들이 단어나 문장을 입력하고 질문하면 할수록 AI는 단어, 문장, 문맥의 언어적 구조와 의도를 파악하기 위해 더 많은 전력을 소모해야 합니다. 즉, 사용자가 많아질수록 그리고 더 자주 사용할수록 전기 사용량이 늘어나는 거죠. 문제는 이런 데이터 센터들의 전력 사용량이 워낙 엄청나기에 특정 지역에 설치되면 전력망과 발전시설도 그에 맞춰 업그레이드 해야 한다는 점입니다. 그리고 이 과정에 투입되는 자금은 주나 시의 재정부담으로 이어지고 장기적으로는 시민들에게까지 경제적으로 영향을 주게 돼요. 환경적으로는 데이터 센터의 열을 식히기 위해 투입되는 냉각수들이 대량으로 증발되는데, 이 증발되는 물로 인해 수자원 소비량이 급등한다고 합니다. 문제는 기후나 자연이란 변덕스럽고 예측하기 어렵기에 증발된 물이 언제 다시 비나 눈, 태풍의 형태로 지역사회에 되돌아올지 알 수 없다는 점이죠. 데이터 센터는 매일 매시간 매순간 고정적으로 일정량의 물을 소모해야 하지만 그 물이 다시 물의 형태로 돌아오는 데 걸리는 시간은 미지수라는 뜻입니다. 그렇기 때문에 가뭄과 같은 비상상황이 닥치면 지역사회에 치명적인 문제가 될 수도 있습니다. https://www.smithsonianmag.com/science-nature/with-ai-on-the-rise-what-will-be-the-environmental-impacts-of-data-centers-180987379/
전력과 수자원 공급의 안정성 이슈로 인해 데이터 센터 운영기업 중에서는 자체적인 발전시설까지 확장하는 곳들도 생겨나고 있다고 합니다. 만일 이런 흐름이 더 커지면 빅 테크 기업들이 자체적인 데이터 센터와 케이블망을 설치하고 소유하는 것을 넘어 발전시설이라는 가장 기초적인 인프라까지도 통제하는 미래가 올 지도 모르겠네요. 개별 민간 기업이 국가와 사회의 기초 인프라 자산을 통제하고 소유하게 되는 미래가 과학소설에서만 볼 수 있던 소재가 아니라 생각보다 빨리 현실이 될지도 모르겠다는 생각이 들었습니다.
AI 옹호론에서는 AI의 성능과 효율성 개선을 통해 기후변화를 더 잘 예측함으로서 인류와 공동체/기업들이 대비할 수 있다는 의견들도 있습니다. 하지만 기술에 있어서 인간이 무언가를 더 효율적으로 만들면 만들수록, 그 결과물을 더 많은 사람들이 더 많이 소비함으로 인해서 전체적인 에너지 사용량은 큰 차이가 없거나 더 늘어날 수 있다는 반론도 있고요. AI와는 다른 영역이지만 전기자동차 또는 자율주행차가 우리가 기대하는 수준으로 완전 자율주행이 가능해지는 순간이 온다면, 훨씬 더 많은 계층과 사람들이 여행과 이동을 하게 될 것이고 이로 인해 오히려 교통량의 증가로 인한 전력/에너지 수요가 지금보다 더 높아질 수 있다는 우려도 있습니다. https://theconversation.com/data-centre-emissions-are-soaring-its-ai-or-the-climate-240137 “The convenience of an autonomous vehicle may increase people’s travel and in a worst-case scenario, double the amount of energy used for transport,” says Felippa Amanta, a PhD candidate in digital technologies and climate change. 우리가 무언가를 개선하겠다는 활동 그 자체가 인간의 관점에서만 개선일 뿐 더 전체적인 관점에서는 고갈과 착취를 더 용이하게 만드는 걸 수도 있겠네요. 그렇기 때문에 작가도 효율성/생산성과 자본의 기업 중심 논리만이 AI의 개발과정을 독점해서는 안된다고 지적하는 거겠죠.
3장 아이슬란드의 데이터 센터도 재미있게 읽었습니다. 지열과 수력을 이용한 신재생 에너지로 분명 좋은 기회를 잡았지만 사실 고용창출효과나 핵심 기술 인력 양성 등의 기능은 많이 하지 않는다는 면에서 조금 아쉬운 사례이긴 했어요. 예전 유럽 열강들의 제국 주의처럼 이제는 글로벌 대형 기업들이 전세계를 지배하는 it 제국주의가 된 것 같은데 여기서도 인프라 권력을 차지하고 있다는 부분이 특히 기억에 남네요.
@Alice2023 님, 의견 감사합니다. 3장은 AI가 자연환경과 물리적 자원을 독점하면서도 정작 시설의 운영 유지보수를 위한 고용에 있어서는 지출을 줄이고 있는 현실의 대조가 눈에 와 닿죠. 단기계약직, 임시직, 외주와 파견업체를 통한 직원 운용은 기업들이 직접 고용으로 인한 인건비 부담과 법적인 책임을 회피하려는 수익성의 관점이 크지만 그게 전부는 아닐 거라고 생각해요. 이러한 고용의 불안정성(그쪽에서는 유연성이라고 어떻게든 포장하고 싶어하는 말이죠.)을 계속 기업들이 확대하는 이유는 더 근본적으로는 '일'이라는 가치에 대한 사회적/관념적 책임마저 기업이 피해가려는 수단이라고 느낍니다. 성과를 증명하지 못했으므로, 더 효율적/효과적으로 일하지 못했으므로 계약을 연장하거나 정규직이 되지 못했다는 평가기준은 단순한 기준을 넘어 개인의 '쓸모'나 '존재의의'까지도 부정하기 때문입니다. 현재의 상태가 불안하고 만족스럽지 못하다면 그 원인은 당신에게 있다는 책임의 외주화랄까요. 자업자득이다, 더 노력하지 않았다, 남들도 너 만큼은 한다 같은 말들이 있죠. 불안정성의 원인제공자와 이유마저도 기업이 아닌 개인에게 돌림으로써 기업은 모든 부담과 책임에서 자유로워지니까요.
정치이론가 애덤 코츠코는 이런 자유를 “조직적으로 비난받아도 마땅하다는 공감대를 형성하는” 또 하나의 덫이라고 했다. 이런 구조는 늘 개인에게 모든 짐을 씌운다. 스스로 내린 선택의 결과가 지금의 삶이고, 실패해도 도와주기는커녕 동정할 이유가 전혀 없다. 마크 피셔는 민영화와 함께 스트레스, 우울증 확산, 불안감 증폭의 민영화도 동반되었다고 강조한다. 일자리를 구하지 못했다면 그만한 능력을 키울 만큼 충분히 노력을 하지 않았기 때문이고, 원하는 일을 하게 되었는데도 비참하다면 다른 일을 구하라는 식이다. 이런 논리는 잦은 이직률을 정당화하고 기업은 필요할 때마다 원하는 노동력을 고용하기도 쉽고 해고하기도 쉬워진다.
일은 당신을 사랑하지 않는다 - 우리를 지치고 외롭게 만드는 사랑하는 일에 대하여 p.16~17, 세라 자페 지음, 이재득 옮김
감사합니다. 저도 이 책 담아놨어요. "일은 당신을 사랑하지 않는다." 도 읽어 봐야 겠네요.
AI 기업들은 근본적으로 자신들의 소유가 아닌 것을 팔고 있다.
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.146, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
“가치 사슬에서 창작자가 가장 밑에 위치하고, 그 위에 모든 사람들이 군림하는 구조는 예전부터 존재해 왔어요. AI가 착취 문제를 새롭게 만든 건 아니에요. 다만, 그 문제를 더 악화시켰을 뿐이죠.”
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.147, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
“겉으로 보기엔 화려하지 않은 직업이 많아요. 하지만 그런 일들이 저 같은 예술가들에게 생활비를 마련해 주죠. 저는 사전, 영어 학습 자료, 설명 영상, 기업 홍보 영상 같은 걸 녹음해요. 이 일이 없어진다면, 다른 창작 활동을 지속하기 어려울 겁니다.”
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.151, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
2001년, 러시아 상트페테르부르크에서 개발된 챗봇 유진 구스트만은 한때 튜링 테스트를 통과한 최초의 AI로 유명세를 탔다. 그러나 이 챗봇은 13세의 우크라이나 소년이라는 설정을 가지고 있었다. 어린아이라는 설정은 이 챗봇이 가진 부족한 언어 능력과 일반 상식의 결핍을 정당화하는 배경 장치로 활용됐다. 즉, 유진 구스트만이 질문에 엉뚱한 답을 하거나 의미 없는 대답을 하더라도, 실험 참가자들은 “나이가 어린 외국인이라서 그런 것”이라고 생각하며 쉽게 넘어갈 가능성이 있었다. 이처럼 튜링 테스트는 실제 창의성이나 지능보다는, AI가 인간을 얼마나 효과적으로 속일 수 있는지를 평가하는 데 더 가까운 실험이다.
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.157, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
결국 AI가 창의성 테스트를 통과했는지 여부는 특정 분야에서 개별적으로 평가할 필요가 있다.
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.165, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
기계적 재생산은 수세기 동안 다양한 형태로 존재해 왔다. 렘브란트는 많은 견습생이 그의 그림 작업을 돕는 대형 작업장을 운영했으며, 미켈란젤로 역시 시스티나 대성당을 그릴 때 조수를 채용해 특정 부분을 채색하게 했다. 더 최근의 예로는 앤디 워홀이 대규모 작업장을 운영하며 그의 조수들이 대부분의 작품을 대량 생산한 사례가 있다. (…) 합성 드럼 비트와 턴테이블이 대중음악을 파괴한 것이 아니라 오히려 새로운 음악 장르를 탄생시킨 것처럼, 기술은 예술을 소멸시키기보다 확장시키는 역할을 해왔다.
AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들 p.172, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
작성
글타래
화제 모음
지정된 화제가 없습니다
[책나눔 이벤트] 지금 모집중!
[그믐앤솔러지클럽] 4. [책증정] 도시괴담을 좋아하신다면 『절대, 금지구역』으로 오세요 [책증정] 2월, 코스모스 완독자가 되자![📚수북플러스] 7. 무성음악_수림문학상 작가와 함께 읽어요
💡독서모임에 관심있는 출판사들을 위한 안내
출판사 협업 문의 관련 안내
그믐 새내기를 위한 가이드
그믐에 처음 오셨나요?[메뉴]를 알려드릴게요. [그믐레터]로 그믐 소식 받으세요
그믐 앤솔러지 클럽에서 읽고 있습니다
[그믐앤솔러지클럽] 3. [책증정] 일곱 빛깔로 길어올린 일곱 가지 이야기, 『한강』[그믐앤솔러지클럽] 2. [책증정] 6인 6색 신개념 고전 호러 『귀신새 우는 소리』[그믐앤솔러지클럽] 1. [책증정] 무모하고 맹렬한 처음 이야기, 『처음이라는 도파민』[그믐미술클럽 혹은 앤솔러지클럽_베타 버전] [책증정] 마티스와 스릴러의 결합이라니?!
🎵 책으로 듣는 음악
<모차르트 평전> 함께 읽으실래요? [김영사/책증정] 대화도 음악이 된다! <내일 음악이 사라진다면> 함께 읽어요[꿈꾸는 책들의 특급변소] 차무진 작가와 <어떤, 클래식>을 읽어 보아요. [그믐밤] 33. 나를 기록하는 인터뷰 <음악으로 자유로워지다> [📚수북플러스] 7. 무성음악_수림문학상 작가와 함께 읽어요
같이 연극 보고 원작 읽고
[그믐연뮤클럽] 9. 죽은 자를 묻고 그 삶을 이어갈 것인가 "살아 있는 자를 수선하기"[그믐연뮤클럽] 8. 우리 지난한 삶을 올바른 방향으로 이끄는 여정, 단테의 "신곡"[그믐연뮤클럽] 7. 시대와 성별을 뛰어넘은 진정한 성장, 버지니아 울프의 "올랜도"
사람과 사람이 만나는 곳, 아고라의 삶의 깊이를 더하는 책들.
[도서증정-고전읽기] 조지 엘리엇의 『고장 난 영혼』[도서 증정] 『문명과 혐오』를 함께 읽어요.[도서증정-고전읽기] 셔우드 앤더슨의 『나는 바보다』[도서 증정] <나쁜 버릇>을 함께 읽어요.
2026년에도 한강 작가의 책 읽기는 계속됩니다!
[한강 작가님 책 읽기] '작별하지 않는다'를 함께 읽으실 분을 구합니다![라비북클럽](한강작가 노벨문학상 수상기념 2탄)흰 같이 읽어요노벨문학상 수상 한강 작가 작품 읽기 [한강 작가님 책 읽기] '소년이 온다'를 함께 읽으실 분을 구합니다.[책 선물] 한강, 『여수의 사랑』 : 미래가 없는 자들을 위한 2026년의 시작
<책방연희>의 다정한 책방지기와 함께~
정명섭 작가와 <어차피 우리 집도 아니잖아> 읽기[책방연희X그믐] 책 읽다 절교할 뻔 [책방연희X그믐] <책 읽다 절교할 뻔> 번외편 <내가 늙어버린 여름> 읽기
논픽션의 명가, 동아시아
[도서 증정] 논픽션 <두려움이란 말 따위> 편집자와 함께 읽어요! (동아시아)[도서 증정] <사랑과 통제와 맥주 한잔의 자유> 저자, 편집자와 함께 읽어요![도서 증정]《미래는 생성되지 않는다》 저자, 편집자와 함께 읽어요!
🎁 여러분의 활발한 독서 생활을 응원하며 그믐이 선물을 드려요.
[인생책 5문 5답] , [싱글 챌린지] 완수자에게 선물을 드립니다
기이함이 일상이 되는 순간, 모험은 비로소 완성된다
[책걸상 '벽돌 책' 함께 읽기] #30. <항해사 흰닭, 파드레, 그리고 오렌지…>[그믐클래식 2025] 12월, 파이 이야기
🐷 꿀돼지님이 읽은 한국 장편 소설들
손원평 장편소설 『젊음의 나라』(다즐링)김홍 장편소설 『말뚝들』(한겨레출판)이묵돌 장편소설 『초월』(김영사)손보미 장편소설 『세이프 시티』(창비)원소윤 장편소설 『꽤 낙천적인 아이』(민음사)
요리는 배를 채우고, 책은 영혼을 채운다
[밀리의서재]2026년 요리책 보고 집밥 해먹기[책걸상 함께 읽기] #23. <장하준의 경제학 레시피>[도서 증정] 소설집『퇴근의 맛』작가와 함께 읽기[책증정][1938 타이완 여행기] 12월 18일 오후 8시 라이브채팅 예정!
<코스모스> 꼭 읽게 해 드리겠습니다!
2026년 새해 첫 책은 코스모스! 코스모스, 이제는 읽을 때가 되었다![인생 과학책] '코스모스'를 완독할 수 있을까?
모집중밤하늘
내 블로그
내 서재