[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면

우리가 생각하는 것 이상으로 AI는 유형의 물질과 환경기반에 매우 큰 영향을 받고 있다는 점을 알 수 있었습니다. 또한 그로 인해 향후 테크 기업들이 오히려 소프트웨어라는 무형의 가치보다 지리와 기후적 여건, 환경, 우수인재 분포 국가 같은 지정학적 요인을 둘러싼 경쟁이 심화될 것이라는 예측도 할 수 있죠. 현재 미중간 패권경쟁의 다양한 현상들 중 AI산업이 왜 경쟁의 한 축이 될 수밖에 없는지도 이해가 갔습니다.

이전 파트에서 나오는 내용이지만 저자가 설명하는 '백인성'의 개념이 무엇인지 궁금해서 찾아봤습니다. 캠브리지 대학 연구교수 Stephen Cave과 공동참여자인 Kanta Dihal이 함께 조사한 이 연구보고서는 AI 및 로봇의 영역에 있어 백인성(Whiteness)이 우리도 모르는 사이 어떻게 형성되었는지를 파헤치는데요. 대중에게 공개된 내용이므로 관심있는 분들은 하기의 링크로 직접 가서 볼 수 있습니다. https://link.springer.com/article/10.1007/s13347-020-00415-6

- 보고서의 내용을 직역했기 때문에 다소 문장이 어색할 수 있습니다. - <기계도 인종으로 구분될 수 있다> 로봇이나 AI라는 단어를 검색하면 흰색 또는 백인의 외견을 띄고 있는 로봇이 등장하는 다양한 이미지들을 볼 수 있습니다. 우리도 모르는 사이, '지능을 가진' 기계에 대한 우리의 관념과 인식에는 인종에 기반한 해석이 개입하고 있죠. 이러한 '백인성'이야말로 AI에 대해 우리가 무엇을 희망하거나 반대로 두려워 하는지를 보여주는 장치라고 할 수 있습니다. 그리고 더 나아가 기술이라는 개념에 있어 인종에 기반한 관념구조가 형성되어 있다는 뜻입니다. 인종화는 개인의 특성을 두상이나 골격, 피부색 같은 신체적 특징으로 설명하거나 규범화하려는 경향입니다. 또한 그러한 신체적 특징을 문화적 특성으로 결부 지으며, 이를 바탕으로 사회적 위계를 나눠 우열함과 열등함을 구분지으려는 반복적인 시도이기도 합니다. 문화적 특성에는 방언이나 특정한 말투, 복식 외에도 자질(근면함, 성실함, 신뢰감, 창의성, 지적능력) 과 같은 구분이 포함됩니다. 이런 문화적 특성들은 신체적 특징과 결합하여 역사적으로 오랫동안 특정 인종의 정신적/도덕적 자질을 판단하는 잣대가 되어왔습니다. 2018년 뉴질랜드 캔터베리 대학 Christoph Bartneck과 연구진은 인간형 로봇 '나오'의 사진을 찍어 로봇의 색감을 백인/흑인의 피부색과 같게 조정한 후 실험 참가자들에게 다른 몇 가지 특성을 제시하며 로봇의 인종을 정의하도록 했습니다. 그 결과, 참가자 중 7~20%의 소수만이 로봇을 인종에 연관시키지 않은 것에 비해 약 53~70%의 다수 집단은 로봇의 색에 근거해 인종을 연관지었습니다. 즉, 인간은 로봇 특히 인간형 로봇에게 있어 인종의 개념을 부여하는 경향이 있다는 의미죠. 인간은 기본적으로 기계를 의인화 하는 경향이 있는데 이는 의인화를 통해 인간과 기계의 상호작용이 보다 쉬워지기 때문에 그럽니다. 기계구조물의 위에 인간의 머리나 두상과 같은 형태를 달아 놓거나, 두 개의 눈이나 시각기관이 있고, 사지가 달려 있으며 이족 보행을 하는 특성 등이 그렇고요. 외형적인 특성 외에도 인간과 같은 목소리, 예의와 유머 같은 인간적 특성을 심기도 합니다. 이 과정에서 인종의 개념이 결부될 수밖에 없습니다. 물리적 실체가 없는 챗봇에게서도 우리는 챗봇이나 에이전트의 명칭에서, 또는 전혀 시각적 요소가 없는 텍스트 기반 대화에서도 방언이나 말투를 기반으로 어떤 식으로든 인간적/인종적 특성을 찾아내게 됩니다. (제이크란 이름에서 백인을, 안토니오에서 히스패닉을 떠올리게 되는 경향) 2018년 텍사스 대학교 리오그란데밸리의 Megan K. Strait와 연구진은 각각 흑인, 백인, 아시아인 여성형의 안드로이드를 묘사한 3개의 비디오를 참가자들에게 보여주고 어느 쪽에 더 비인간적인 반응을 보이는지 분석했습니다. 실험의 의도는 현실에서 특정 인종에게 가해지는 비인간화나 인종차별 발언이 로봇에게도 동일하게 적용되는지를 알아보기 위함이었다고 해요. 실험 당시 흑인 여성형의 안드로이드에게 부정적 발언의 빈도와 수준이 높은 반면, 아시아인과 흑인 여성형 안드로이드에 비해 백인 여성형 안드로이드가 받은 부정적 발언은 절반 아래였다고 합니다. 위의 실험들은 '비인간적'인 기계에게 인간은 의인화 또는 인간으로 해석하는 경향이 있다는 점, 그리고 우리가 현실에서 갖는 인종화와 인종차별이 기계에도 전이될 수 있음을 보여주는 셈입니다.

<AI의 백인성이 드러나는 사례들> 1) 휴머노이드 로봇에서의 백인성 인간형 상용로봇의 상당수가 흰색 기반의 디자인을 바탕으로 하고 있습니다. 이런 현상은 어느 한 순간 형성된 것이 아니라, 초창기의 로봇연구나 로봇제품(장난감)들이 백인 또는 흰색을 바탕으로 한 사례들이 계속 반복/재생되는 연장선으로 봐야 합니다. 인간적 외형, 특히 두상이나 피부색을 최대한으로 배제한 제품들조차 '흰 색' 재질을 주로 사용하고 있는데요. 로봇 Pepper(첫번째 사진)나 Nao(두번째 사진)가 대표적인 사례입니다. 더 나아가 아예 인간적 특성을 반영한 경우, 코카서스계 즉 백인종의 피부와 얼굴로 표현되는 경우들도 있고요. 홍콩에 소재한 기업인 핸슨로보틱스가 개발한 Sophia(세번째 사진)는 UN에도 방문하고 상을 받기도 했습니다. 산업현장에서 쓰이는 로봇 팔이나 조립라인의 자동화 기계들과 달리, 인간과 유사한 휴머노이드의 형상을 갖춘 로봇들은 백인성(Whiteness)이 깃든 경우가 많습니다. 2.챗봇 및 가상 어시스턴트 물리적/외형적 요소가 없이 채팅이나 텍스트만으로 대화하는 챗봇은 인종을 구분지을 시각적 단서가 없음에도 사회언어학적으로 사용자가 인종을 부여하기도 합니다. 1966년 MIT AI연구소에서 개발한 언어처리 프로그램 ELIZA는 백인 중산층 영어를 기준으로 대화했다고 해요. 애플에서는 '시리Siri'를 개발하던 직원들이 싱가폴, 인도, 호주 기반의 다양한 영어 억양을 수집하고 분석했는데 미국흑인 즉 아프리칸-아메리칸의 영어에 대해서는 개발 조직 내에서 '애플의 브랜드 이미지와 프리미엄 고가시장을 목표로 하는 제품 타겟 시장에 어울리지 않는다'며 부정적 반응을 보였다고 합니다. 꼭 로봇이 아니더라도, 시각적으로 인종이나 색을 구분할 요소가 없더라도 인간은 음성이나 대화의 뉘앙스나 문맥 또는 상대의 언어사용 경향성만으로도 인종을 상상하고 부여한다는 얘기입니다. 그리고 기업이나 개발자들이 의도하건 또는 의도하지 않건 개발의 과정에서 이런 인종화가 개입되고 있음을 보여주죠.

3. 스톡 이미지(검색엔진 이미지) 구글 같은 검색엔진에서 로봇과 AI를 검색해보면 나오는 이미지의 대부분은 흰색으로 묘사되는 경우가 압도적으로 많습니다. 특히 로봇의 외양을 보다 구체적이고 사실적으로 인간처럼 묘사할수록 코카서스 백인계의 특징을 띄는 경향이 더 두드러집니다. 이미지들은 언론사들의 기사나 기업들의 발표 자료에도 사용될 뿐만 아니라 업계 전문가나 기술자들의 자료에서도 자주 찾아볼 수 있죠. (첨부 사진들) 이 경향성은 검색엔진이 특정한 생각이나 관념을 사용자에게 부추김과 동시에 사람들이 가진 기존 경향이 검색엔진에 영향을 주는 순환구도입니다. 원인과 결과가 서로 반복되어 계속 영향을 주는 것이죠. 4. 영화와 TV등 대중매체 사실 위와 같은 검색엔진의 이미지들은 수십 년에 걸쳐 서구권에서 대중문화를 통해 표현된 지적 기계가 반영된 결과입니다. 19세기 이래로 AI나 로봇은 매체에서 주로 백인으로 묘사되어 왔습니다. 영화 터미네이터, 로보캅, 블레이드 러너, 아이로봇, 엑스 마키나에 등장하는 로봇들이 그렇죠. 이들 역할을 맡은 배우들은 모두 백인 배우들이었습니다. 아이 로봇의 로봇들은 인간과 같은 피부색을 갖고 있지 않았지만 외견상 재질이 하얀 색으로 묘사되었고요. 스페이스 오디세이의 HAL-9000이나 Her의 사만타처럼 직접적인 물리적 실체가 없는 AI조차도 백인의 목소리로 연기 되었습니다.

지적인 기계의 묘사와 물리적인 결과물에서 백인성이 두드러지게 반복되는 원인을 연구진은 다음과 같이 분석하고 있습니다. <AI에 있어 인종화, 백인성이 나타나는 이유> 1) AI를 개발하는 작업자들 본인의 백인성이 투영된 결과 유럽과 서구 사회에서는 오랫동안 백인 자신들의 피부를 '다른 인종과 마찬가지로 똑같은 피부색'이 아니라 '무색無色'으로 간주해 왔다는 지적입니다. 쉽게 이해하자면 우리나라에서 '살색'이라는 색의 표현이 적절한가에 대한 비유와 같다고 볼 수 있죠. 우리는 우리 자신의 색에 익숙해져 있기 때문에 자기 자신의 피부색을 다른 색과 동일한 색의 범주로 보지 못하는 한계가 있다는 얘기입니다. 즉, 시각적인 색의 개념을 넘어 흰색이 곧 '색이 없는 무특성'의 개념으로 이어져 마치 우리가 숨을 쉬는 공기처럼 투명한 존재인 '기본값'으로 인식하게 된다는 거죠. 과거 역사에서 유색인이라는 표현이 서구와 백인사회에서 어떤 의미인가를 생각해보면 좀 더 쉽게 와 닿을 거에요. 백인 사회에서는 흰 피부가 '인간'으로서의 기본 조건이고 그 외 흑인이나 아랍인, 무어인, 라틴계와 히스패닉, 아시아인 등의 다양한 피부색을 '유색인'으로서 구분짓는 관점 말이죠. 현대에 들어서는 인종이나 피부색으로 남을 판단하고 불이익을 주지 않으려는 중립성이 중요시 되지만 이러한 태도 자체가 백인의 우월성과 헤게모니를 강화하는 개념이 될 수 있다고도 지적합니다. 피부색으로 판단하지 않겠다는 개념의 중심에는 '인종'을 보지 않겠다는 개념이 기본적으로 내포되어 있는데 마치 그것이 도덕적 자산이자 자질인 것처럼 실리콘 밸리의 기술자나 창업가들이 자신들의 '우월성에 기반한 중립적 태도'를 은연중에 드러내고 있다는 거죠. 이런 태도들은 겉으로 보기에는 공정해 보일지 몰라도 오히려 사회 전반에 퍼져있는 백인성의 표준화와 다른 인종에 대한 차별에 대해 역으로 흐린 눈을 갖게 되는 원인이 됩니다. 가령 AI의 안면인식 기술 개발에 있어 흑인이나 아시아인의 얼굴 특징을 분석함으로써 차별이 일어나지 않도록 사전에 차단하겠다는 개발 의도가 역으로 AI에게 백인 외 다른 인종 사용자들의 안면을 인식하지 못하는 오류로 이어질 수 있습니다. 2) 백인의 자질이 AI의 특성과 결부될 때 역사적으로 오랜 기간 백인성은 백인에 대한 인종적 프레임에 개인의 자질과 특성을 결합해왔습니다. 그리고 그런 특성들을 기반으로 제국주의와 분리통치, 억압을 정당화 해왔죠. 연구진은 문명인으로서의 지성, 전문성, 권력이라는 3가지 요소를 설명합니다. 17세기 이후 유럽 대륙에 식민주의가 확산되면서 백인들의 사고관에는 몇몇 인간이 다른 인간에 비해 더 지적이거나 지능이 우월하다는 생각이 자리 잡습니다. 충분히 지적이지 못한 인종이나 민족은 자신들의 운명과 영토를 스스로 관리할 역량이 없다고 간주되었고 보다 '성숙한' 인종이 이를 대신 도맡아야 한다는 명분이죠. 이는 사상적으로, 도덕적으로 제국주의와 식민주의를 정당화할 뿐만 아니라 일종의 사명으로 변질되어 '백인의 의무'로 둔갑합니다. 19세기에는 이러한 지적인 차이를 증명하기 위해 IQ시험과 같은 체계적 증명과 연구의 시도도 있었고요. 수세기에 걸쳐 형성된 백인에 대한 인종적 프레임으로 인해 이런 문화에 노출된 문명권은 '지적인 기계'라는 단어를 상상할 때 백인의 형상이나 이미지를 떠올리게 된다는 겁니다. 또한 AI에 관한 담론의 많은 부분이 앞으로 AI가 얼마나 '전문성'을 갖추게 될 지를 위주로 설명하는 추세죠. AI가 인간의 육체적/정신적 노동을 대신할 수 있다는 믿음이 여기에 해당됩니다. 반면, 전문직(법, 의학, 사업)은 오랜 기간 유럽과 북미에서 특정 인종이 종사할 수 있다는 믿음과 편견이 있어왔고 이에 기반해 종종 고등교육 기관에 다른 인종의 입학을 받아들이지 않은 역사가 있죠. 이런 역사의 흐름은 검색엔진에도 은연중에 깃들어 엔지니어나 의사라는 검색어를 입력하면 보여지는 알고리즘 이미지들이 한동안 백인 위주였던 데서 드러납니다. 지능과 전문성에 있어서 인종에 기반한 우위를 나누고 서열화 하면 자연스레 권력의 서열화도 진행되기 마련입니다. 대중매체에서 종종 AI나 기계가 인간보다 우월해져 반란을 일으키거나 저항하여 인간을 지배하고 전복한다는 서사들을 자주 볼 수 있죠. 이는 백인들이 자신들의 관점으로 '열등'하다고 정의한 종의 특성이 보다 우월한 종에게는 없다는 해석입니다. 즉, 백인들은 세상이 외부로부터 무너지고 정복 당한다면 자신들보다 '우수'한 종족이나 세력을 통해서만 가능하다는 관념이 자리 잡고 있다는 지적입니다. 그리고 여러 매체에서 이런 적대적 기계들은 대개 아놀드 슈와제네거와 같은 육체적/기능적 정점에 위치한 터미네이터나 엑스 마키나의 알리시아 같은 백인 캐릭터로 반영되어 왔고요. 심지어 블레이드 러너에서의 인조인간(레플리칸트)들도 백인들로 묘사되었습니다. 백인의 숙적은 오직 백인 뿐이라는 인식이죠. 이런 인식과 관념이 깔려 있기에 백인 창작가와 예술가들도 자신들이 모르게 '우월한 의인화 된 존재'를 묘사할 때 백인이나 백인과 같은 기계로서 표현하게 되는 것입니다. 3) 백인 유토피아와 타인종의 배제 AI덕에 우리의 삶이 보다 안락해지고 여유로워 지리라는 기대는 '더럽고, 힘들고, 위험한' 일로부터 멀어지고자 하는 욕망과 연결됩니다. 현실에서는 종종 부유층의 여가를 위해 유색 노동자들의 노동력이 필요하지만 그들은 여전히 잘 보이지 않는 곳에서 일합니다. 이런 계층들은 대개 우리의 시선에 띄지 않는 곳에서 활동하며 설령 같은 공간에 놓이더라도 인식하지 않으려는 경향이 있습니다. (손님이나 주인의 시선이나 눈에 크게 띄어서는 안되는 서비스직/봉사직이나, 가사노동을 제공함에도 가족 구성원으로서는 인정받지 못하는 가사노동자들이 비슷한 사례일 겁니다.) 이는 특정 계층이 종사하는 일과 직업에 있어 바람직하지 않은 특성을 연결 짓고 이들과 '접촉하거나 교류하지 않으려는' 가식으로 드러납니다. 이런 관념이 더 발전하면 다른 피부색을 가진 인간에 대해 더럽거나, 더러운 환경에 살거나, 지저분한 일을 한다는 고정관념과 편견으로 변질되기도 합니다. 위와 같은 사고가 극단적으로 발전하면 AI에 의한 노동의 해방은 기존의 유색 인종들이 종사하던 직업과 일자리가 모두 제거된 유토피아로 볼 수 있을 겁니다. 누군가의 허드렛일이나 잡무, 가사를 대신해주거나 위험하고 힘든 일을 하는 유색인이 더 이상 필요 없는 '해방의 자유'죠. * 개인적으로는 3번째 해석은 다소 극단적인 의견이라고 생각도 들었습니다. 하지만 미국 역사에서 오랜 기간 흑인이 경제적 자유와 지위를 보장 받지 못해 많은 흑인여성들이 백인 가정의 가사도우미로 근무해야 했다는 미국 또는 서구권의 특성 때문에 한국인인 우리 입장에서 공감이 안되는 걸지도 모르겠네요.

3장은 AI가 우리가 생각하는 것 이상으로 물리적 거점과 환경에 큰 영향을 받으며, 또한 영향을 줄 수도 있음을 암시합니다. 챗GPT에 한 번 물어보거나 검색하여 결과를 얻어내기 위해 필요한 전력이 구글에 검색할 때보다 10배 더 많다고 해요. 즉 생성형AI의 사용 그리고 연구개발과 운용에 있어 엄청난 양의 전력이 요구되는 겁니다. 전기는 친환경 동력원을 통해 얻기도 하지만 화석연료와 원자력도 포함되죠. 친환경 에너지는 지구의 온실효과가 확대될수록 기상조건이 악화되면서 전력 수급이 불안정해지는 역설적인 문제가 있습니다. 환경과 지구를 위한 발전 방식이 오히려 지구의 기후로 인해 차질이 빚어지는 거죠. AI 기술의 질주를 위해서는 환경과 기후의 지속가능성을 양보해야 하는 상태에 다다른 건지도 모릅니다. 데이터 센터는 사용하는 기업과 목적에 따라 규모가 제각각으로, 작은 것은 4평짜리부터 시작해서 책에 나온 '하이퍼 데이터 센터'들은 평균 2,800 제곱미터에 달한다고 합니다. 미국 버지니아는 워싱턴과의 근접성과 더불어 저렴한 전기요금, 우호적인 규제완화로 인해 90년대 인터넷의 본격적인 보급 이래 데이터 센터가 몰린 대표적인 장소입니다. (버지니아 북부에만 250개 이상의 데이터 센터가 밀집해있다고 하네요.) 생성형 AI의 훈련과 운영에 있어 사용자나 직원들이 단어나 문장을 입력하고 질문하면 할수록 AI는 단어, 문장, 문맥의 언어적 구조와 의도를 파악하기 위해 더 많은 전력을 소모해야 합니다. 즉, 사용자가 많아질수록 그리고 더 자주 사용할수록 전기 사용량이 늘어나는 거죠. 문제는 이런 데이터 센터들의 전력 사용량이 워낙 엄청나기에 특정 지역에 설치되면 전력망과 발전시설도 그에 맞춰 업그레이드 해야 한다는 점입니다. 그리고 이 과정에 투입되는 자금은 주나 시의 재정부담으로 이어지고 장기적으로는 시민들에게까지 경제적으로 영향을 주게 돼요. 환경적으로는 데이터 센터의 열을 식히기 위해 투입되는 냉각수들이 대량으로 증발되는데, 이 증발되는 물로 인해 수자원 소비량이 급등한다고 합니다. 문제는 기후나 자연이란 변덕스럽고 예측하기 어렵기에 증발된 물이 언제 다시 비나 눈, 태풍의 형태로 지역사회에 되돌아올지 알 수 없다는 점이죠. 데이터 센터는 매일 매시간 매순간 고정적으로 일정량의 물을 소모해야 하지만 그 물이 다시 물의 형태로 돌아오는 데 걸리는 시간은 미지수라는 뜻입니다. 그렇기 때문에 가뭄과 같은 비상상황이 닥치면 지역사회에 치명적인 문제가 될 수도 있습니다. https://www.smithsonianmag.com/science-nature/with-ai-on-the-rise-what-will-be-the-environmental-impacts-of-data-centers-180987379/

전력과 수자원 공급의 안정성 이슈로 인해 데이터 센터 운영기업 중에서는 자체적인 발전시설까지 확장하는 곳들도 생겨나고 있다고 합니다. 만일 이런 흐름이 더 커지면 빅 테크 기업들이 자체적인 데이터 센터와 케이블망을 설치하고 소유하는 것을 넘어 발전시설이라는 가장 기초적인 인프라까지도 통제하는 미래가 올 지도 모르겠네요. 개별 민간 기업이 국가와 사회의 기초 인프라 자산을 통제하고 소유하게 되는 미래가 과학소설에서만 볼 수 있던 소재가 아니라 생각보다 빨리 현실이 될지도 모르겠다는 생각이 들었습니다.

AI 옹호론에서는 AI의 성능과 효율성 개선을 통해 기후변화를 더 잘 예측함으로서 인류와 공동체/기업들이 대비할 수 있다는 의견들도 있습니다. 하지만 기술에 있어서 인간이 무언가를 더 효율적으로 만들면 만들수록, 그 결과물을 더 많은 사람들이 더 많이 소비함으로 인해서 전체적인 에너지 사용량은 큰 차이가 없거나 더 늘어날 수 있다는 반론도 있고요. AI와는 다른 영역이지만 전기자동차 또는 자율주행차가 우리가 기대하는 수준으로 완전 자율주행이 가능해지는 순간이 온다면, 훨씬 더 많은 계층과 사람들이 여행과 이동을 하게 될 것이고 이로 인해 오히려 교통량의 증가로 인한 전력/에너지 수요가 지금보다 더 높아질 수 있다는 우려도 있습니다. https://theconversation.com/data-centre-emissions-are-soaring-its-ai-or-the-climate-240137 “The convenience of an autonomous vehicle may increase people’s travel and in a worst-case scenario, double the amount of energy used for transport,” says Felippa Amanta, a PhD candidate in digital technologies and climate change. 우리가 무언가를 개선하겠다는 활동 그 자체가 인간의 관점에서만 개선일 뿐 더 전체적인 관점에서는 고갈과 착취를 더 용이하게 만드는 걸 수도 있겠네요. 그렇기 때문에 작가도 효율성/생산성과 자본의 기업 중심 논리만이 AI의 개발과정을 독점해서는 안된다고 지적하는 거겠죠.