[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>

“ 인종차별이나 성차별을 영속시키는 알고리즘을 설계하는 것도 가능하다. 아마도 굉장히 쉬울지도 모른다. 그리고 실제로 알고리즘이 이러한 차별을 영속시킨 사례가 여러 번 보고됐다. 이것이 알고리즘의 의사결정에 대한 우려가 커지는 이유이기도 하다. 하지만 알고리즘에 대한 일반적인 결론을 내리기 전에, 우리는 일부 알고리즘은 판단자보다 더 정확할 뿐만 아니라 더 공정한 예측을 한다는 사실을 기억해야 한다. ”

“ 조지 루카스의 반응처럼, 예단에는 감정적 요소가 있다. 심리학자 폴 슬로빅Paul Slovic은 이것을 감정 어림짐작affect heuristic이라 부른다. 사람들은 자신의 감정을 참고해 판단을 내린다. 예를 들어 사람들은 자신가 지지하는 정치인의 모든 것을 좋아한다. 하지만 싫어하는 정치인에 관해서라면 그의 생김새나 목소리마저 싫어한다. 그래서 기업들은 자기 브랜드와 긍정적인 감정을 연관짓기 위해 노력하고, 교수들은 강의 평가에서 좋은 점수를 받은 해에는 강의 자료에서도 좋은 점수를 받게 된다고 생각한다. 심지어 감정이 개입되지 않을 때에도 같은 기제가 작동한다. 사람들은 자신이 어떤 이유로 무언가에 대해서 믿음을 가지게 됐는지 잘 모른다. ”

“ 더 먼 미래를 내다보려 할수록 객관적인 무지는 착실하게 축적된다. 전문가들의 정치적 판단이 제한적인 까닭은 예측가의 인지적 한계 때문이 아니라, 미래에 대한 그들의 해소할 수 없는 객관적인 무지 때문이다. ”

“ 기계적 예측과 알고리즘 예측에 유리한 모든 증거가 다 갖추어져도, 그리고 예측 정확도 면에서 점진적인 개선을 분명히 보여주는 합리적인 계산 방법이 있어도, 많은 의사결정자가 자신의 직관을 활용할 기회를 박탈하는 접근법을 채택하길 거부할 것이다. 많은 영역에서 도입된 알고리즘이 거의 완벽에 가깝지 않은 이상, 객관적인 무지는 불완전한 알고리즘이 인적 판단을 대체하는 일을 결코 허용하지 않을 것이다. 이것이야말로 인적 판단이 반드시 개선되어야 하는 이유다. ”

“ 대체로 우리는 성급히 결론을 내리고 그 결론을 고수한다. 증거에 근거해서 의견을 개진한다고 생각하지만, 우리가 감안하는 증거와 그에 대한 해석은 처음의 속단에 맞게끔 적어도 어느 정도로는 왜곡될 가능성이 있다. 그리하여 우리는 머릿속에 떠올랐던 전반적인 이야기의 일관성을 유지한다. 물론 결론이 옳다면 이 과정도 괜찮다. 하지만 처음의 평가가 잘못됐을 때, 모순된 증거가 있음에도 그 결론을 고수하려는 경향은 오류를 증폭시킬 수 있다. ”