ㅎㅎㅎ 노이즈에서 sleep on it이란 옛말에 지혜가 담겨있듯이 우리나라 속담도 알게모르게 지혜가 담겨있죠.
[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>
D-29

borumis

연해
“ 인공지능이 하는 일에는 마법과 이해가 개입되지 않는다. 인공지능은 그저 패턴을 관측하고 예측할 뿐이다. 하지만 이러한 인공지능의 능력에 감탄하는 동안에 기억해야 할 것이 있다. 인공지능도 왜 다리가 부러진 사람은 그날 저녁 영화를 보러 가지 않는지를 이해하는 데 꽤 시간이 걸릴 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장. 잡음 없는 규칙, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

연해
“ 사람은 실수를 한다. 우리 모두 이 사실을 너무나도 잘 안다. 실수하는 것은 인간만이 가질 수 있는 특권이다. 다시 말해서 인간만이 실수할 수 있다. 우리는 기계가 완벽하길 기대한다. 이런 기대가 깨지면, 우리는 기계를 과감히 폐기한다.
하지만 이런 직관적인 기대 때문에 사람들은 알고리즘을 불신하고 자신들의 판단에 계속 의존하게 된다. 설령 인적판단이 눈에 띄는 열등한 결과를 초래하더라도 말이다. 이러한 태도는 인간에게 깊이 뿌리박혀, 기계적 예측이 거의 완벽한 정확도를 달성할 때까지 변하지 않을 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장. 잡음 없는 규칙, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

YG
2부를 놓고서 여러분에게 제가 2019년에 펴낸 책의 한 대목을 소개해드리고 싶습니다. 『수상한 질문, 위험한 생각들』(북트리거)의 '집단 지성인가 집단 바보인가' 장의 부분입니다(262~264쪽). 토드 로즈가 2022년에 펴낸 『집단 착각』 2부에서도 비슷한 주장을 하고 있어요.
*
독일의 얀 로렌츠(Jan Lorenz) 박사 팀은 스위스 취리히에서 144명의 학생에게 금전 보상을 약속하고 다양한 질문의 답을 예측하는 실험을 했습니다. ‘2006년 스위스에서 일어난 살인 사건의 수’처럼 답은 모두 세상에 알려진 것이었어요. 단, 연구자는 질문을 던질 때마다 때로는 다른 이의 예측 결과를 알려 주고, 때로는 스스로 예측하도록 상황을 바꿨습니다.
결과는 어땠을까요? 우선 상황에 따라 답변이 크게 달랐습니다. 그렇다면 어느 쪽이 좀 더 정답에 근접했을까요? 흥미롭게도 다른 이의 예측 결과를 알려 주었을 때(사회적 영향력이 작용할 때) 144명의 학생은 더욱더 정답과는 거리가 먼 엉뚱한 답변을 내놓았습니다. 사회적 영향력이 집단 지성의 힘을 무력화한 것입니다.
이 실험을 주도한 이들은 세 가지에 주목했습니다. 첫째, 다른 이의 판단을 그저 듣는 것만으로도 예측의 다양성이 감소했습니다. 그러니까 스위스의 2006년 살인 사건 수(198건)를 비교적 정확하게 예측했던 사람도 다른 사람의 터무니없는 예측(약 800건)을 듣고서 자신의 의견을 바꾼 거예요. 실험이 진행될수록 답변이 200건 대 800건으로 좁혀지는 결과가 나왔습니다.
둘째, 이렇게 예측이 한두 가지로 좁혀지면 집단이 부정확한 결론을 내릴 가능성은 더욱 커집니다. 실제로 사회적 영향은 스위스의 2006년 살인 사건 수를 200건이 아니라 800건으로 예측하도록 하는 틀린 결론으로 이끄는 경우가 있었습니다. 다수의 틀린 예측이 맞은 예측을 압도해 버리는 것이지요.
셋째, 이 대목이 제일 심각합니다. 혼자서는 설사 정확하게 예측했더라도 자신의 것을 확신하지 않았습니다. (“200건 정도 아닌가요?”) 그런데 여럿이 비슷한 예측을 하자 그것이 틀렸더라도 확신하는 경향을 보였습니다. (“맞아요. 800건이 확실해요!”) 부풀 대로 부풀어 터지기 직전의 주식 시장이나 부동산 시장에 너도나도 수익을 ‘확신’하며 뛰어드는 현상과도 흡사하지요.
사회적 영향력이 없을 때, 그러니까 144명이 독립적으로 판단할 때는 어느 정도 집단 지성이 나타날 가능성이 있습니다. 하지만 144명이 서로 영향을 주고받는 상황에서는 집단 지성이 나타나기는커녕, 오히려 개인의 판단보다도 못한 잘못된 결론을 내려놓고도 자신이 맞다고 우기는 심각한 상황이 나타날 수 있습니다.

borumis
이 책도 관심책에 담아둡니다. ㅎㅎㅎ

수상한 질문, 위험한 생각들 - 세상의 통념을 저격하다2003년부터 지금까지 '질문하는 기자'로 살고 있는 강양구가 우리 사회의 수상한 질문과 위험한 생각들을 큐레이션해서 보여 준다. 저자는 사회(1장), 자연(2장), 기술(3장), 신체(4장), 인간(5장)에 대한 사회 통념에 질문을 던지며, 관습적인 사고의 균열을 날카롭게 파고든다.
책장 바로가기

장맥주
저는 제 기사 댓글은 별로 보지 않았어요. 하지만 선동에 휩쓸린 한 덩어리 집단에 대한 환멸은 정말 여러 번 경험했네요. ^^;;;

borumis
동감해요. 저도 뉴스나 요즘은 유튜브? 등 SNS 댓글도 어떤 건 너무 몰아가는 게 보여서 댓글 보는 것을 피하게 되더라구요;;

Nana
네, 댓글이 아무래도 몰아가는 경향이 있죠.. @YG 님 마음 이해갑니다. 가끔은 기사나 뉴스를 보면서도 미묘한 워딩이 한쪽으로 사람들의 생각을 몰아간다고 생각될 때도 있습니다. 매스미디어의 영향이겠죠.

연해
기술이 발전할수록 이 속도가 점점 빨라지는 것 같아요. 우르르 쏠리는 현상이랄까요. 자칫 잘못해서 발을 헛디디면 그대로 낭떠러지로 곤두박질칠 것 같은 느낌?
그 댓글이라는 게 그래서 더 무섭습니다. 사적 제재로 사람들이 너무 과열되어 간다 여겨져요.
그리고 이 책을 읽으면서 계속 느끼는 건데요.
인간에게는 잡음과 편향이 많고, 일관된 기준이 없다는 결론으로 가고 있는데, 그게 한편으로는 편안하면서(이랬다저랬다 하는 나는 정상이었군), 또 한편으로는 불안하기도 합니다.
기준이 없다 보니, 사회생활을 하면서도 결국은 제 편을 만드는 게 가장 중요한 게 아닌가 싶어서요. 결국 사람들은 이성보다는 감정(그날의 컨디션과 기분에 따라 혹은 처음 마음이 끌리는대로)이 앞서는 경우가 많다는 게 이 책을 읽을수록 선명하게 와닿네요. 그래서 우리는 모두 한낱 인간에 불과하다는...
결국 이성적인 논리라는 것도, 자신의 주장을 뒷받침해주기 위한 하나의 도구일 뿐이라는 생각도 들고요.

오도니안
“ 그들은 일곱 개의 예측 변수들에 대해 1만 세트의 무작위 가중치를 만들어냈고, 업무 실적을 예측하기 위해 이 1만의 무작위 공식을 적용했다. 그 결과, 선형 모델과 판단자가 같은 정보를 근거로 예측할 때 모든 선형 모델이 더 정확한 추정값을 내놨다. 이는 실로 충격적인 결과였다." ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 9장, 178p, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

오도니안
이건 저도 충격적인데요. 연구 결과를 더 자세하게 알아 보고 싶네요.

오도니안
9장의 내용을 보니, 말콤 글래드웰의 옛날 책 블링크도 생각이 나고, 영화 '머니볼'도 생각이 나네요. 머니볼에서 스카우터들과 예일 대학 출신 통계 전문가가 서로 대립하던 장면이 기억 나요.

YG
말콤 글래드웰 이 나중에 가장 이불킥했을 책이 바로 『블링크』죠. 이 책 때문인지 글래드웰은 심리학자 사이에서 왜곡, 과장해서 조금 짜증 나는 아마추어 라이터 취급을 받기도 하나 봐요. (물론, 그 때문에 유명해진 심리학자는 또 다르겠지만요.) 실제로 2019년에 펴낸 『타인의 해석』에서 글래드웰은 『블링크』를 놓고서 약간 반성한다는 투의 얘기를 후주에서 살짝 하기도 합니다(기억 정확하지 않음. 확인해서 알려드릴게요.)

블링크 - 운명을 가르는 첫 2초의 비밀말콤 글래드웰을 세계적인 작가로 도약시킨 《블링크》가 새롭게 출간되었다. 첫 출간 후 15년이 지난 지금, 정보의 양은 당시와 비교할 수 없을 만큼 늘었고 데이터 분석은 의사결정에 있어 필수로 여겨진다. 빅데이터의 시대에 통찰의 가치는 여전히 유효한가? 《블링크》는 이 질문에 다시 답한다.

타인의 해석 - 당신이 모르는 사람을 만났을 때《티핑포인트》 《블링크》 《아웃라이어》 《다윗과 골리앗》 등 발표한 책을 모두 <뉴욕타임스> 베스트셀러에 올린 최고의 경영저술가 말콤 글래드웰이 신작을 들고 귀환했다. 출간 즉시 〈뉴욕타임스〉, 아마존 논픽션 분야, 〈선데이타임스〉 베스트셀러에 오르는 동시에 〈블룸버그〉 〈파이낸셜타임스〉 〈시카고트리뷴〉 ‘올해의 책’으로 선정된 또 한 권의 역작이다.
책장 바로가기

오도니안
블링크가 논란이 있는 건 알았지만 그 정도 수준이었나요? ^^
말콤 글래드웰의 책들은 하나의 주제를 갖고 조금씩 다른 이야기들을 옴니버스처럼 묶어 놓는 것이 좋더라구요. 블링크도 전문성과 직관에 대해 결이 다른 여러 이야기를 담고 있었는데, 지금까지 인상적으로 기억나는 이야기는 전문가들은 부부가 서로 대화를 하는 모습을 보면 이 커플이 이혼을 하게 될지 안할지 높은 적중률로 예측을 한다고 하더라구요. 그런데 그게 노이즈라고 할 수 있는 다양하고 미묘한 정보를 종합한 것이 아니라, 서로 대화할 때 상대에게 경멸의 감정을 표현하는지 여부로 판별할 수 있다고. 설령 서로 농담을 하면서 잘 지내고 있는 것처럼 보여도 그 농담들에 진지한 경멸이 담겨 있으면 이혼 확률이 높다는 거죠. 전문성이 오히려 한두 가지 핵심 요령으로 요약될 수 있다는 점에서 블링크에 나오는 다른 이야기와 주제도 좀 다르고 노이즈 9장에 나오는 이야기와도 좀 연관이 되어 보였습니다.
율리안나
실제로 알고리즘이 이러한 차별을 영속시킨 사례가 여러 번 보고됐다. 이것이 알고리즘의 의사결정에 대한 우려가 커지는 이유이기도 하다
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

장맥주
7장에서 ‘군중의 지혜 효과’에 관심 있는 분들께는 이 책 추천합니다. 이그노벨상을 수상하기도 한 글 잘 쓰시는 유쾌한 물리학자의 책입니다.

보이지 않는 지능 - 최상의 해답은 대중 속에 있다현대의 복잡성 과학이 대자연에서 발견한 규칙들을 다중지성 혹은 집단지성이라는 측면에서 살펴보고, 그 규칙들을 활용하여 생활 속에서 빈번히 발생하는 복잡한 상황에서 최선의 의사결정을 만들어낼 수 있는 방법을 제시한다.
책장 바로가기

장맥주
“ 그룹 구성원들이 서로서로 의견을 듣는다면, 그들의 생각은 그룹의 지배적인 경향 쪽으로 기울게 된다. 그 결과 그 그룹의 결속력은 강화되고, 자신감은 높아지며, 극단주의는 심화된다. 그리고 사람들이 그룹 내 자신의 평판에 신경을 쓴다면, 그들의 생각 역시 그룹의 우세한 경향 쪽으로 움직이게 될 것이다. 여기서 집단 극화가 일어난다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 8장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

장맥주
“ 1974년 도스는 예측 과제를 단순화함으로써 돌파구를 마련했다. 그의 아이디어는 놀라웠고, 거의 이단에 가까웠다. 그는 각 예측 변수의 정확한 가중치를 결정하기 위해서 다중회귀를 사용하는 대신, 모든 예측 변수에 같은 가중치를 줄 것을 제안했다. 도스는 동일 가중치 공식을 부적절 선형 모델improper linear model이라 불렀다. 그의 놀라운 발견은 동일 가중치 모델은 ‘적절한proper’ 회귀 모델만큼이나 정확하고 임상적 판단보다 훨씬 우월하다는 것이었다. ”
『노이즈 : 생 각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기

오도니안
책이랑 또 다른 이야기를 해서 죄송한데, 사실 이런 문제에 관심 가진 분들을 만나기가 쉽지 않아서요.
네이글이 이야기한 박쥐의 의식 문제랑, 메리의 빨간 색 주제에 대해서 제 견해를 간단하게 이야기해보려고 합니다. 이 문제에 관심 없으신 분들은 스킵하셔도 되요~
보면 이런 논제들이 주장하고 싶은 것은 물리적인 세계에 대한 연구만으로 알 수 없는 주관적 의식의 세계가 있다라는 것인데, 제 생각에 '안다'는 것이 무엇인지에 대한 정의부터 명확해야 할 것 같습니다.
'안다'는 것이 원인과 결과를 이해하는 것이라면 인간의 의식은 그 인과관계를 낱낱이 밝혀 예측하는 것이 이론적으로는 가능하다고 봅니다. 그렇지 않을 이유는 특별히 없죠.
그런데 '안다'는 것을 일종의 경험이라고 보면, 빨간색을 알기 위해서는 빨간색을 실제로 경험해 봐야죠. 경험한다는 것은 우리 뇌 안에 특정의 방식으로 전기신호가 흘러간다는 것이고, 빨간색을 안다는 것은 단순화해서 말하자면 빨간색에 해당하는 뇌세포가 자극이 된다는 것입니다. 그러니, 빨간색을 보지 않고 빨간색에 대한 모든 것을 안다는 것은 불가능하죠. 그렇지만 객관적인 인과관계를 연구하면 빨간색을 보았을 때 일어날 객관적 현상들을 미리 다 예측하는 것은 불가능할 이유가 없습니다. 즉 경험으로서의 '앎'과 예측 능력으로서의 '앎'을 구분하지 않는 것에서 혼란이 생기는 거라고 생각합니다.
그러니 메리는 빨간색을 접하지 않은 상태에서 자기가 빨간 색을 처음 보면 일어나 5분 동안 춤을 출 거라는 것을 예측할 수 있을 것입니다. 그렇지만 자기가 춤을 출 거라는 것을 예측하는 것과 실제로 춤을 추고 싶은 충동을 느끼는 건 다른 일이라고 하겠죠.
마찬가지로 우리는 박쥐의 의식이 어떤 것인지는 주관적으로 경험할 수 없지만, 그 객관적인 인과관계를 밝히거나 박쥐의 의식과 비슷한 어떤 인공지능을 만들어내는 것은 가능할 것입니다.
사실 우리가 인간으로서 같은 종에 속하긴 하지만 우리 뇌가 다 다르게 생겼기 때문에 타인의 경험이 어떤 것인지를 이해하는 데에는 한계가 있습니다. 하지만 다른 점도 있지만 비슷한 점도 있으니까 노이즈를 품은 채로 타인의 경험을 부정확하게나마 상상하고 공감하는 것이겠죠. 그와 마찬가지로 박쥐의 의식에 대해서도 부분적인 공감이 가능하지 않을까 합니다.
작성
게시판
글타래
화제 모음
지정된 화제가 없습니다