정말 무서운 얘기네요. 이런 연구 결과를 보면 정치사회, 대중문화 영역에서 다들 댓글부대를 운영하고 싶은 유혹을 받을 거 같습니다.
[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>
D-29

장맥주

Nana
그러게요. 전 사람들이 투표할 때 여론조사의 영향을 그리 많이 받는 지 몰랐었기 때문에 이번 사태에 좀 많이 놀랐었습니다.

연해
저도 이런 걸 보면 신기하면서도 무섭더라고요(뭔가 일관된 기준도 없는 것 같고).
제 지인 중에도 요식업을 하는 분이 계신데요. 가게를 막 오픈했을 때, 전투적으로 홍보를 해서 손님을 잡는 게 중요하다고 하더라고요. 그때 입지를 잘 다져야 한다고. 결국 목소리 큰 사람이 다 이기는 게임인가, 싶기도 하고.

장맥주
책도 예외가 아닐 거 같아요. 출판사들도 반응 좋은 신간에만 마케팅 자원을 배정하려고 하는데, '첫 반응이 안 좋은 책은 마케팅해봤자다' 하는 경험에서 나온 결정 아닌가 생각해봅니다.

연해
저도 이런 걸 보면 너무 씁쓸해요.
세상에 잘 알려지지 않은 좋은 작품들이 너무나 많은데, 마케팅 여부에 따라 이렇게 좋은 작품들이 묻히는 경우가 많아서요(그래서 베스트셀러가 즐비해있는 서점보다 도서관에 가는 걸 좋아합니다).

borumis
그쵸.. 그리고 반면 마케팅에 혹해서 읽었다가 생각보다 실망인 책도 많았어요..

연해
흑흑, 맞아요. 자신만의 안목과 취향을 기르는 것도 현대사회에서 중요한 것 같다는 생각도 들어요.
주체적인 삶, 정해지지 않는 삶?

봄솔
맞아요 ㅠㅠ 개인적으로 표지가 너무 예쁜 책은
거르게 된다는 …

장맥주
“ 결국에 사람들은 서로서로 배우고, 그 배움을 통해 무엇이 옳은지 파악할 수 있다. 서로 알고 있는 것과 생각하는 것을 공유하는 유연한 환경에서 그룹은 더 좋은 판단을 내릴 수 있다. 하지만 군중의 지혜에는 독립성이라는 전제 조건이 붙는다. 만약 사람들이 스스로 판단을 내리지 않고 남들의 생각에 의존한다면, 군중은 그렇게 지혜롭지 않을지도 모른다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 8장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
율리안나
군중 의 지혜가 판단을 개선할 가능성이 높다. 그럴 수없다면 내부의군중을 만들어 같은 문제에 대해서 한 번 더 판단해보길 바란다
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
화제로 지정된 대화

YG
어제 말씀드린 대로, 오늘 12월 13일 금요일에는 9장 '판단과 모델'과 10장 '잡음 없는 규칙'을 읽습니다. 예상하셨던 분들도 있으실 텐데, 모든 면에서 인간보다는 AI가 판단하는 게 낫다는 게 이 두 장의 결론입니다. ㅠ.
주말에는 다들 쉬시면서 병행 독서(병렬 독서)하시고요.

오도니안
드디어 8장까지 읽었는데, 개인적으로 가장 인상적이었던 내용은
1) 전체 오류의 크기가 편향의 제곱과 잡음의 제곱을 더한 것과 같다는 오류 방정식
2) 제도 잡음은 수준 잡음과 패턴 잡음으로 구분된다는 것. 그리고 그 외에 상황 잡음이 존재한다는 구분 방식.
3) 변증법적 부트스트래핑 => 자신이 어떤 판단을 혼자 할 때 도움이 될 듯 해요
4) 숙의 과정을 갖는 집단이 각자가 독립적으로 판단하는 집단보다 높은 잡음을 보인다는 것
4)번이 특히 인상적인데, 집단 편향 현상에 대해서는 알고 있었지만, 특정 성향을 공유하는 사람들의 집단에 문제가 있는 것이고 다양성을 갖는 사람들이 모여 숙의를 거치면 문제가 없을 거라고 생각했었습니다. 그런데 4)번의 경우는 통계적으로 보면 구성원의 다양성과 관계 없이 숙의 과정을 거치는 것이 잡음을 높인다고 하는 이야기네요.
저는 공론화위원회 같은 방식의 숙의민주주의에 기대를 걸어왔었는데, 생각을 더 해 볼 지점이 있는 것 같습니다.

연해
저도 "결과적으로 숙의 과정을 거치는 그룹은 그저 개별 판단의 평균을 구하는 통계적 그룹보다 더욱 잡음 많은 판단을 내리곤 한다."는 문장에서 어리둥절했습니다. 오히려 반대로 생각했거든요.
'사공이 많으면 배가 산으로 간다'는 속담이 이럴 때 쓰이는 건가 싶기도 헀고요.

borumis
ㅎㅎㅎ 노이즈에서 sleep on it이란 옛말에 지혜가 담겨있듯이 우리나라 속담도 알게모르게 지혜가 담겨있죠.

연해
“ 인공지능이 하는 일에는 마법과 이해가 개입되지 않는다. 인공지능은 그저 패턴을 관측하고 예측할 뿐이다. 하지만 이러한 인공지능의 능력에 감탄하는 동안에 기억해야 할 것이 있다. 인공지능도 왜 다리가 부러진 사람은 그날 저녁 영화를 보러 가지 않 는지를 이해하는 데 꽤 시간이 걸릴 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장. 잡음 없는 규칙, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

연해
“ 사람은 실수를 한다. 우리 모두 이 사실을 너무나도 잘 안다. 실수하는 것은 인간만이 가질 수 있는 특권이다. 다시 말해서 인간만이 실수할 수 있다. 우리는 기계가 완벽하길 기대한다. 이런 기대가 깨지면, 우리는 기계를 과감히 폐기한다.
하지만 이런 직관적인 기대 때문에 사람들은 알고리즘을 불신하고 자신들의 판단에 계속 의존하게 된다. 설령 인적판단이 눈에 띄는 열등한 결과를 초래하더라도 말이다. 이러한 태도는 인간에게 깊이 뿌리박혀, 기계적 예측이 거의 완벽한 정확도를 달성할 때까지 변하지 않을 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장. 잡음 없는 규칙, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

YG
2부를 놓고서 여러분에게 제가 2019년에 펴낸 책의 한 대목을 소개해드리고 싶습니다. 『수상한 질문, 위험한 생각들』(북트리거)의 '집단 지성인가 집단 바보인가' 장의 부분입니다(262~264쪽). 토드 로즈가 2022년에 펴낸 『집단 착각』 2부에서도 비슷한 주장을 하고 있어요.
*
독일의 얀 로렌츠(Jan Lorenz) 박사 팀은 스위스 취리히에서 144명의 학생에게 금전 보상을 약속하고 다양한 질문의 답을 예측하는 실험을 했습니다. ‘2006년 스위스에서 일어난 살인 사건의 수’처럼 답은 모두 세상에 알려진 것이었어요. 단, 연구자는 질문을 던질 때마다 때로는 다른 이의 예측 결과를 알려 주고, 때로는 스스로 예측하도록 상황을 바꿨습니다.
결과는 어땠을까요? 우선 상황에 따라 답변이 크게 달랐습니다. 그렇다면 어느 쪽이 좀 더 정답에 근접했을까요? 흥미롭게도 다른 이의 예측 결과를 알려 주었을 때(사회적 영향력이 작용할 때) 144명의 학생은 더욱더 정답과는 거리가 먼 엉뚱한 답변을 내놓았습니다. 사회적 영향력이 집단 지성의 힘을 무력화한 것입니다.
이 실험을 주도한 이들은 세 가지에 주목했습니다. 첫째, 다른 이의 판단을 그저 듣는 것만으로도 예측의 다양성이 감소했습니다. 그러니까 스위스의 2006년 살인 사건 수(198건)를 비교적 정확하게 예측했던 사람도 다른 사람의 터무니없는 예측(약 800건)을 듣고서 자신의 의견을 바꾼 거예요. 실험이 진행될수록 답변이 200건 대 800건으로 좁혀지는 결과가 나왔습니다.
둘째, 이렇게 예측이 한두 가지로 좁혀지면 집단이 부정확한 결론을 내릴 가능성은 더욱 커집니다. 실제로 사회적 영향은 스위스의 2006년 살인 사건 수를 200건이 아니라 800건으로 예측하도록 하는 틀린 결론으로 이끄는 경우가 있었습니다. 다수의 틀린 예측이 맞은 예측을 압도해 버리는 것이지요.
셋째, 이 대목이 제일 심각합니다. 혼자서는 설사 정확하게 예측했더라도 자신의 것을 확신하지 않았습니다. (“200건 정도 아닌가요?”) 그런데 여럿이 비슷한 예측을 하자 그것이 틀렸더라도 확신하는 경향을 보였습니다. (“맞아요. 800건이 확실해요!”) 부풀 대로 부풀어 터지기 직전의 주식 시장이나 부동산 시장에 너도나도 수익을 ‘확신’하며 뛰어드는 현상과도 흡사하지요.
사회적 영향력이 없을 때, 그러니까 144명이 독립적으로 판단할 때는 어느 정도 집단 지성이 나타날 가능성이 있습니다. 하지만 144명이 서로 영향을 주고받는 상황에서는 집단 지성이 나타나기는커녕, 오히려 개인의 판단보다도 못한 잘못된 결론을 내려놓고도 자신이 맞다고 우기는 심각한 상황이 나타날 수 있습니다.

borumis
이 책도 관심책에 담아둡니다. ㅎㅎㅎ

수상한 질문, 위험한 생각들 - 세상의 통념을 저격하다2003년부터 지금까지 '질문하는 기자'로 살고 있는 강양구가 우리 사회의 수상한 질문과 위험한 생각들을 큐레이션해서 보여 준다. 저자는 사회(1장), 자연(2장), 기술(3장), 신체(4장), 인간(5장)에 대한 사회 통념에 질문을 던지며, 관습적인 사고의 균열을 날카롭게 파고든다.
책장 바로가기
작성
게시판
글타래
화제 모음
지정된 화제가 없습니다