터키인 기계는 '겉으로는 기계의 정직성과 투명성의 환상을 바탕으로 하지만 뒤에 인간의 개입이 숨어있는 문제'의 대표적인 사례입니다. 터키인 기계가 불에 타 없어지면서 이런 환상에 바탕을 둔 사기극은 사라진 것 같지만 생성형AI가 대두 되면서 이제는 AI를 통한 사기범죄의 우려의 목소리도 나오고 있죠.
최근 영국에서는 터키인 기계보다 규모와 교묘함에 있어서 훨씬 거대한 사기가 벌어지기도 했습니다. Builder.AI라는 스타트업은 고객이 원하는 사양의 어플리케이션을 AI에게 입력하면 자동으로 앱을 만들어주는 시스템을 홍보했습니다. 본사에만 500여 명의 직원에 15억 달러의 기업가치를 평가 받을 정도로 관심을 모았지만 이들이 내세운 AI의 성능은 실제로는 인도와 우크라이나에 있는 개발 직원 및 외부개발자를 아웃소싱하여 결과물을 만드는 방식이었다고 해요.
고객이 '나타샤'라는 챗봇에 원하는 사양이나 지시사항을 입력하는 인터페이스 형태였는데, '일부' 기본적인 작업은 챗봇이 수행하긴 했지만 그 외 많은 영역은 사람이 개입했다고 합니다. Builder.AI가 의심받기 시작한 건 서비스를 사용해 본 고객들이 기대한 제작 기간에 비해 결과물이 나오는 속도가 너무 느렸고 이런 사례가 반복되자 의문이 제기되었고요.
점차 결과물에 불만족한 고객들이 대금 지급을 거부하거나 계약을 취소하면서 Builder.AI의 현금창출 능력이 고갈 되었고, 인도의 다른 업체와 실제로 물건이나 서비스가 오고 가지 않는 허위거래를 만들어 매출을 부풀리다가 내부자 고발로 인해 실태가 드러나면서 파산하게 됩니다.
결국 Builder.AI가 홍보한 나타샤와 AI는 단지 어마어마하게 많은 인도인(A lot of Indian)을 투입한 훨씬 거대한 터키인 기계였던 셈이죠.
https://www.digitaltoday.co.kr/news/articleView.html?idxno=588857
https://www.autodaily.co.kr/news/articleView.html?idxno=531829
https://restofworld.org/2025/builderai-ai-apps-downfall/
[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면
D-29
“ AI를 하나의 기계 즉 추출 기계로 이해하는 것은, AI가 내세우는 객관성과 중립성의 허울을 벗겨내는 시도이다. 모든 기계에는 역사가 있으며, 특정한 시기와 목적에 따라 인간이 설계하고 구축해 왔다. AI 또한 기존의 정치경제 시스템에 깊이 뿌리내려 있다. 데이터를 분류하고, 차별하며, 예측하는 모든 과정은 이를 만든 사람들의 이해 관계 와 권력 구조를 반영한다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.21, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 기계는 전력과 물만으로 살아갈 수 없다. AI의 이면에서, 기술의 한계를 보완하기 위해 분투하는 인간 노동이 있다는 사실을 잊어선 안 된다. AI는 광범 위한 인간 노동에 의존하고 있다. 데이터 주석 작업, 결과 검증, 알고리즘 조정 등 다양한 업무에 노동자들의 손길이 필요하다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.22~23, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ AI 시대에도 소프트웨어와 알고리즘의 소유권은 중요하지만, 기반 하드웨어의 중요성이 더욱 커지고 있다. (…) 반면 빅 AI 기업들은 인프라 권력이라고 부르는 새로운 형태의 힘을 통해 이익을 공고히 하고 있다.
간단하게 설명하자면, 이 기업들은 AI 모델을 훈련시키는 데 필요한 연산 능력과 저장 공간을 제공하는 기반 설비, 즉 거대한 데이터 센터, 해저 광케이블, AI 칩을 직접 소유하고 통제함으로써 이익과 권력을 유지한다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p. 29, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ AI의 발전으로 나타나는 노동 관리 방식은 새로운 것이 아니다. 과거의 공장, 집단 농장, 캘리포니아 농장에서 사용된 노동 통제 방식의 연장선에 놓여 있다. AI의 글로벌 생산 네트워크는 약탈적이고 불공정한 무역 협정을 통해 자원을 수탈했던 신식민주의적 질서를 답습하고 있다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.34, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ AI 산업은 글로벌 디지털 노동 분업 체계를 통해 유지되는데, 고임금의 안정적인 직업은 미국 등 주요 선진국 도시들에 집중되는 반면, 저임금의 불안정하고 위험한 직업은 남반구 저개발국가 노동자들에게 떠넘겨지고 있다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.34, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 철도와 인터넷은 서로 다른 방식으로 케나를 바꿔놨지만, 한 가지 중요한 공통점이 있다. 둘 다 키베라 지역 노동자들을 글로벌 네트워크에 연결시켰다는 점이다. 머시 같은 데이터 주석 작업자의 일은 바로 이런 세계적 흐름 속에서 이해해야 한다. 이들이 만들어 낸 데이터세트는 지구 반대편 북반구의 AI 연구소들로 흘러들어간다. 케냐의 노동자들이 글로벌 AI 생산망에서 중추적인 역할을 하고 있음에도 불구하고, 이들은 정작 자신들이 기여한 시스템에서 목소리를 내거나 창출된 가치에서 마땅히 받아야 할 몫을 요구할 권리가 없다. 머시의 경험이 여실히 보여주듯이, 추출 기계의 일부를 이루는 일자리들은 착취적이고 불공정하며 때론 잔혹하기까지 하다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.36~37, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
망고나무 밑에 앉아서 하루의 마지막 햇빛을 즐길 수 있기를 기대하며.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.46, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 이러한 혹독한 근무 조건 아래에서 애니타와 동료들은 주당 최소 45시간 이상을 극도로 집중하며 일한다. 때때로 무급 초과 근무까지 해야 하지만, 그들이 받는 임금은 월 80만 우간다 실링(미화 200달러), 시간당 약 1.16달러에 불과하다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.49, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
10시간 근무 중 휴식 시간은 1시간을 초과해서는 안 되며, 공식적으로 허용된 휴식 시간 외에는 계속해서 일을 해야 한다. 주석 작업을 잠시라도 멈추면 효율 점수가 즉시 하락한다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.49~50, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 이곳의 노동자들은 스스로 업무 내용을 조정하거나 결정할 여지가 거의 없으며, 모든 작업은 최대한 단순하고 세분화되어 생산성과 효율성을 극대화하는 형태로 짜여 있다. 그 과정에서 그들은 극도의 지루함과 불안감이 뒤섞인 기묘한 감정을 느끼게 된다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.53, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 흔히 우리는 AI 개발이라고 하면, 팔로알토나 멘로 파크에 위치한 에어컨 잘 나오고 번지르르한 사무실에서 일하는 엔지니어들을 떠올린다. 그러나 AI 훈련에 필요한 약 80퍼센트의 시간이 데이터세트 주석 작업에 쓰이고 있다. 자율주행차량, 극소 수술기기, 무인 드론과 같은 첨단기술은 모두 굴루 같은 곳에서 시작된다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.54, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 줄리안 포사다 예일대학교 교수는 베네수엘라의 경제 위기 속에서 데이터 주석 노동을 하는 가족에 대한 연구를 진행했다. 그는 팬데믹 이후 일자리를 잃은 부모가 워크허브라는 플랫폼에서 하루 종일 두 대의 컴퓨터로 일하며 생계를 유지하는 이야기를 소개한다. 이 가족은 식사를 준비할 때를 제외하고는 쉬는 시간 없이 일했다. 부모가 작업을 쉴 때면, 자녀들이 교대로 컴퓨터 앞에 앉는다. 이렇게 항상 누군가가 일하는 상태를 유지했다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.56~57, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
사람도 자기자신의 경험과 데이터 안에서만 반복적으로 판단을 내리면 사고가 갇히고 좁아진다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.62, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ ‘반복의 저주’이라는 제목으로 유명한 논문에 따르면, 연구자들은 챗봇이 생산한 데이터로 훈련한 LLM에서 모델 붕괴를 야기하는 ‘돌이킬 수 없는 결함’을 발견했다고 밝힌다. 모델이 스스로 생성한 데이터를 반복적으로 학습할 경우, 특정 표현이나 패턴이 계속 중첩되면서 데이터가 점점 단순화되고, 그 결과 모델의 다양성과 창의성이 저하되는 문제가 발생할 수 있다고 경고하고 있다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.62, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
우간다의 노동자들이나 데이터 주석 기업들이 메타, 테슬라 같은 기업들과 대등한 조건으로 협상하거나 거래할 수 있다고 보는 것은 완전히 비현실적인 판단이다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.65, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 리는 윤리와 안전 문제를 매우 중요하게 생각하지만, 현실적으로 데이터 주석 과정에서 나타나는 다양한 문제들을 해결할 자원을 충분하게 갖고 있지 않다. 리의 팀은 매일같이 특정 답변을 어떻게 구성해야 할지 윤리적 고민에 빠지지만, 회사에는 이를 명확히 정리해줄 윤리 정책조차 제대로 마련되어 있지 않다. 고객들에게는 모델을 안전하게 사용하는 방법이나 사용이 제한되는 사례에 대한 지침이 제공되지만, 정작 AI를 훈련하는 과정에서 윤리적 문제에 맞닥뜨리는 데이터 주석 작업자들은 알아서 판단해야 했다. 그래서 주석자들이 종종 리에게 질문을 던지기도 하지만, 그녀는 업무가 너무 많아 매번 답변할 여력이 없다. 게다가 리 자신도 모든 윤리적 이슈에 대해 충분한 지식이나 확신을 가지고 있지 않다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.76~77, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
AI 시스템은 우리가 ‘사유’라고 부를 만한 과정 없이도, 사고와 비슷한 결과를 만들어 낼 수 있다.
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.81, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ 따라서 LLM에는 의식적인 사고도 진정한 의미에서의 이해도 존재하지 않는다. 모델은 언어의 형태만을 처리할 뿐, 그 사회적 의미는 따지지 않는다. 인간은 질문에 답할 때, 사회가 어떻게 작동하는지에 대한 깊은 맥락적 지식과 이해를 바탕으로 답변을 구성한다. 반면, LLM은 주어진 데이터의 기호간의 통계적 관계만을 분석할 뿐, 그 기호들이 실제 세계에서 무엇을 의미하는지에 대한 참조점을 전혀 갖고 있지 않다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.82~83, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
“ GPT-4의 성공은 강화 학습을 통해 AI가 만드는 결과물이 더욱 유용해질 수 있음을 보여주었다. 하지만 인류 전체에게 이익을 주는 안전하고 투명한 인공지능을 개발하겠다는 본래의 설립 취지와 달리, 오픈AI는 GPT-4 훈련 과정의 세부적인 정보를 공개하지 않아 AI 연구 분야의 투명성을 오히려 후퇴시킨다 는 비판을 받고 있다. ”
『AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들』 p.84~85, 마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다