ㅋㅋㅋ 맞아요 12장에서 갑자기 “시스템 2” 이야기 나오면서 뭐야 이건 “생각에 대한 생각” 속편인가;; 아니 그 책 안 읽고 온 사람들은 어쩌라구;;
[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>
D-29
“ 인종차별이나 성차별을 영속시키는 알고리즘을 설계하는 것도 가능하다. 아마도 굉장히 쉬울지도 모른다. 그리고 실제로 알고리즘이 이러한 차별을 영속시킨 사례가 여러 번 보고됐다. 이것이 알고리즘의 의사결정에 대한 우려가 커지는 이유이기도 하다. 하지만 알고리즘에 대한 일반적인 결론을 내리기 전에, 우리는 일부 알고리즘은 판단자보다 더 정확할 뿐만 아니라 더 공정한 예측을 한다는 사실을 기억해야 한다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 195페이지, 대니얼 카너먼 외 지음, 장진영 옮김, 안 서원 감수
문장모음 보기
저자는 알고리즘의 편향 우려가 없다고 이야기하는 것이 아니라, 전문가들의 판단 역시 상당한 정도로 편형과 차별의식을 반영하고 있으며 알고리즘이 잘 설계되고 학습되면 그 수준을 상당히 낮출 수 있을 거라는 걸 강조하는 것 같습니다.
약간, 자율주행차의 교통사고 문제랑 비슷한 것 같기도 해요. 자율주행차가 인간 운전자보다 훨씬 적은 사고를 내더라도 인간의 잘못으로 사고가 나는 건 용인되지만 기계의 잘못으로 인간이 다치거나 죽는 일은 일어나선 안된다는...
“ 조지 루카스의 반응처럼, 예단에는 감정적 요소가 있다. 심리학자 폴 슬로빅Paul Slovic은 이것을 감정 어림짐작affect heuristic이라 부른다. 사람들은 자신의 감정을 참고해 판단을 내린다. 예를 들어 사람들은 자신가 지지하는 정치인의 모든 것을 좋아한다. 하지만 싫어하는 정치인에 관해서라면 그의 생김새나 목소리마저 싫어한다. 그래서 기업들은 자기 브랜드와 긍정적인 감정을 연관짓기 위해 노력하고, 교수들은 강의 평가에서 좋은 점수를 받은 해에는 강의 자료에서도 좋은 점수를 받게 된다고 생각한다. 심지어 감정이 개입되지 않을 때에도 같은 기제가 작동한다. 사람들은 자신이 어떤 이유로 무언가에 대해서 믿음을 가지게 됐는지 잘 모른다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 13장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
@장맥주 @오도니안 @소피아 사실, 인공지능(AI) 알고리즘이 차별이나 편견을 강화한다는 지적은 수년 동안 여러 차례 나왔던 비판이죠. 캐시 오닐의 『대량살상 수학무기』는 대표적이고요. 캐시 오닐의 책이 2016년에 나왔고, 『노이즈』가 2021년에 나왔 으니 그 사이에 이 이슈를 놓고서도 다양한 추가 논의가 있었겠죠. 그 일부가 『노이즈』의 논의에 반영된 것으로 이해했습니다.
저도 이 대목을 읽으면서 이런 생각을 해보긴 했어요. 성차별이나 인종 차별에 찌든 사람의 생각을 바꾸기 보다는 알고리즘의 편향을 조정하는 게 훨씬 더 쉽진 않을까, 하는 생각이요. 9, 10장은 그런 견해를 지지하는 근거들이겠죠.
대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가빅데이터 모형은 편견에 사로잡힌 인간보다 공정하며, 개인의 권리와 이익을 보호한다고 알려져 있다. 그러나 현실은 정반대다. 정부, 기업, 사회에 도입된 데이터 기반의 알고리즘 모형들은 인종차별, 빈부격차, 지역차별 등 인간의 편견과 차별, 오만을 코드화해 불평등을 확대하고, 민주주의를 위협하고 있다.
책장 바로가기
판단judgment은 사고thinking 와 다르고, 정확한 판단을 내리는 것은 좋은 판단을 내리는 것과 같지 않다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
화제로 지정된 대화
오늘 12월 16일 월요일에는 11장 '객관적인 무지'와 12장 '정상의 계곡'을 읽습니다.
이 부분에서는 전문가나 중요한 의사 결정을 내리는 사람의 예측이 왜 그렇게 많이 틀리는지(11장), 왜 '인과적 사고'가 아닌 '통계적 사고'가 필요한지(12장) 등을 짚는 부분입니다.
화제로 지정된 대화
이번 주는 오늘 3부를 읽고, 4부를 거쳐서 5부 앞 부분까지 읽는 일정입니다. 총 28장 중에서 이번 주에 절반을 통과합니다!
@오도니안 @장맥주 개인적으로 책을 따라 읽는 한국 철학자 가운데 최훈 선생님이 계세요. 그 선생님께서 최근에 내신 책도 두 분이 흥미로워하실 것 같아서 소개합니다. (이 책은 제가 작은 동거인과 한 장씩 읽고서 수다 떠는 용도로 사용하기도 합니다.) 목차 한 번 살펴보세요. ('트롤리 딜레마' '동물의 고통'을 포함해서 두 분이서 나눴던 대화 소재가 이 책에도 여럿 등장합니다.)
위험한 철학책 - 위험하지 않은 것은 철학이 아니다논리학 분야 베스트셀러 저자 최훈 교수의 《위험한 철학책》이 출간 10주년을 맞아 개정 증보판으로 돌아왔다. 개정판에서는 윤리학과 인식론을 다루는 5개의 장을 추가해 다시 한번 독자들의 사고를 극단까지 몰고 간다.
책장 바로가기
대중적인 철학 저자 가운데 개인적으로 좋아하는 사람이 데이비드 에드먼즈입니다. 저는 『비트겐슈타인은 왜』를 읽고서 따라 읽는 저자가 되었는데요. (이 책은 나중에 『비트겐슈타인과 포퍼의 기막힌 10분』으로 다시 나왔습니다.) 이 저자가 쓴 책 가운데 트롤리 딜레마의 철학사적 의의를 포괄적으로 다룬 좋은 책이 있어요. 『저 뚱뚱한 남자를 죽이겠습니까?』. 저는 아주 재미있게 읽었고 트롤리 딜레마에 대한 이해의 폭도 아주 넓어졌어요.
비트겐슈타인은 왜? - 두 위대한 철학자가 벌인 10분 동안의 논쟁이 책은 비트겐슈타인과 포퍼 사이에 있던 '부지깽이 스캔들'의 진실을 찾는 추리소설의 형식에 20세기 현대 철학과 역사, 지성사 등을 결합시킨 독특한 스타일의 인물 평전이다.
비트겐슈타인과 포퍼의 기막힌 10분1946년 10월 25일 케임브리지 킹스칼리지. 그곳에서 위대한 철학자 비트겐슈타인이 고성을 지르며 부지깽이를 휘두르고, 급기야 청중과 자신의 적수인 초청 발표자 칼 포퍼를 두고 회의실 문을 쾅 닫으며 도망치듯 나가버렸다. 이날의 만남은 '부지깽이 스캔들'로 불리며 한동안 철학계를 뒤흔들었다.
저 뚱뚱한 남자를 죽이겠습니까? - 당신이 피할 수 없는 도덕적 딜레마에 대한 질문다섯 사람이 철로에 꽁꽁 묶여 있고 제동장치가 고장 난 폭주 기관차가 돌진해 오고 있다. 신호 조종기를 돌려 기차를 지선으로 보내려는 찰나 뚱뚱한 남자가 지선의 선로에 묶여 있는 것이 보인다. 다섯 사람을 살리기 위해 기차의 진로를 바꾸면 그 남자는 죽는다. 당신은 어떻게 할 것인가.
책장 바로가기
3부 12장까지 읽었는데, 3부는 약간 심드렁하면서 읽게 되네요. 약간 당연하게 받아들이고 있는 얘기들(알고리즘이 인적 판단보다 우월하다거나, 전문가나 의사결정자들의 예측이 곧잘 틀린다던가)을 길게 길게 하는 느낌입니다. 그런데 '자기를 과신하는 전문가'를 사람들이 더 찾는것 같긴 합니다 ㅎㅎ 그걸 알기에 더 자신있게 지르는것일수도.
세상이 어떻게 돌아가는지를 설명하는 명료한 이론으로 무장한 전문가들이 자신의 예측에 대해 가장 큰 자신감을 보였고, 가장 정확하지 않은 예측을 했다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 11장. 객관적인 무지, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 더 먼 미래를 내다보려 할수록 객관적인 무지는 착실하게 축적된다. 전문가들의 정치적 판단이 제한적인 까닭은 예측가의 인지적 한계 때문이 아니라, 미래에 대한 그들의 해소할 수 없는 객관적인 무지 때문이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 11장. 객관적인 무지, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 기계적 예측과 알고리즘 예측에 유리한 모든 증거가 다 갖추어져도, 그리고 예측 정확도 면에서 점진적인 개선을 분명히 보여주는 합리적인 계산 방법이 있어도, 많은 의사결정자가 자신의 직관을 활용할 기회를 박탈하는 접근법을 채택하길 거부할 것이다. 많은 영역에서 도입된 알고리즘이 거의 완벽에 가깝지 않은 이상, 객관적인 무지는 불완전한 알고리즘이 인적 판단을 대체하는 일을 결코 허용하지 않을 것이다. 이것이야말로 인적 판단이 반드시 개선되어야 하는 이유다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 11장. 객관적인 무지, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 대체로 우리는 성급히 결론을 내리고 그 결론을 고수한다. 증거에 근거해서 의견을 개진한다고 생각하지만, 우리가 감안하는 증거와 그에 대한 해석은 처음의 속단에 맞게끔 적어도 어느 정도로는 왜곡될 가능성이 있다. 그리하여 우리는 머릿속에 떠올랐던 전반적인 이야기의 일관성을 유지한다. 물론 결론이 옳다면 이 과정도 괜찮다. 하지만 처음의 평가가 잘못됐을 때, 모순된 증거가 있음에도 그 결론을 고수하려는 경향은 오류를 증폭시킬 수 있다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 <13장. 어림짐작, 편향 그리고 잡음>, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
@도원 저는 이 모임에 참여하신 분들이 오히려 사회 전체에서 보면 약간 편향된 집단이라는 생각도 후기들 읽으면서 해봤어요. :) '인과적 사고'가 아니라 '통계적 사고'에 익숙하거나 혹은 그런 걸 지향하려고 노력하는 분들? 일상생활에서 만나는 대다수 분들은 알고리즘의 판단이 인간의 판단보다 낫다는 게 상식이라고 얘기하면 '정말?' 이럴 분들이 많지 않을까요?
인공지능 판사 같은 이야기는 예전엔 공상과학소설 소재로만 생각했는데 이렇게 현실에 가깝게 다가온 걸 보면 신기합니다. 인간이 아닌 인공지능의 판결을 사람들이 납득하며 받아들이기까지 얼마나 걸릴지는 모르겠지만 항고가 가능하고 법규가 명확한 분야의 1심 민사재판 같은데는 쉽게 적용이 될지 모르겠네요.
@오도니안 네, 저도 다분히 기계적으로 판단이 이뤄지는 판결은 인공지능(AI)에 맡기는 게 훨씬 낫다는 생각을 가끔은 해보네요.
저같은 경우는 통계를 평소에도 매일 다루기 때문에 그런 걸지도;;; 실은 학생때부터 논문 영작 및 교정을 봐주다보면 실제 학회지에서 봐달라는 얘기도 많지만 주변에서 지인들이 내용까진 아니어도 영어 좀 봐달라고 부탁하는 경우가 많은데.. 그러다보면 영어만 봐줄 수는 없고 어느 정도 내용을 이해해야 해서 제 전공과 전혀 상관없는 매우 다른 분야 (특히 사회과학이나 예체능)의 논문들도 많이 보게 되는데... 통계나 도표를 보면 이 정도를 significant하다고 본다고?? 나랑 유의하다는 기준이 좀 다른 건가?하고 좀 의아하기도 했거든요.. 어쩌면 이런 차이 때문에 그랬나..하고 이번 책을 통해 배웠네요. 안그래도 제 가족은 문과가 대부분인데 저는 이과여서 그런지 '통계적 사고'를 '인과적 사고'로 해석하는 것 때문에 딴지 걸고 다툴 때가 많았던 것 같아요;;;
글타래
화제 모음
지정된 화제가 없습니다