[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>

“ 머신러닝 모델은 부러진 다리와 같은 예외적 변수를 감지해낼 수 있다. 우리가 생각한 것보다 훨씬 많이 포착할 수 있다. 이것이 머신러닝 모델이 매우 정확한 추정값을 도출해낼 수 있는 이유 중에 하나다. 방대한 사례에 대한 거대한 데이터를 고려하면, 가령 영화 관람자들의 행동을 추적하고 분석하는 모델은 실제로 영화를 보러가는 날 병원을 방문한 사람들은 그날 저녁에 영화를 보러 가지 않을 가능성이 높다는 사실을 찾아낼 수 있다. 이런 식으로 흔치 않은 사건에 대한 예측의 정확도가 개선되면, 우리가 머신러닝 모델을 감독해야 할 필요성은 줄어들 것이다. ”

“ 머신러닝으로 설계된 이 예측 모델은 같은 정보를 사용했던 선형 모델보다도 훨씬 더 성공적이었다. 그 이유가 흥미롭다. “머신러닝 알고리즘은 변수들의 조합에서 다른 예측 모델로는 감지할 수 없는 중요한 신호를 찾아낸다.” 16 다른 예측 모델로는 쉽게 파악할 수 없는 패턴을 포착하는 머신러닝 알고리즘의 능력은 고위험군으로 분류된 피고들에게서 특히나 명확해진다. 다시 말해서 데이터의 일부 패턴은, 비록 드물게 나타나는 패턴일지라도, 고위험군을 정확하게 예측해낸다. 머신러닝 알고리즘이 드물지만 결정적인 패턴을 찾아내는 능력은 부러진 다리 변수를 다시 떠올리게 한다. ”

“ 원칙적으로 이렇게 차별적인 예측 결과가 나오는 것은 분명히 위험 요인이다. 하지만 알고리즘이 판사보다 인종적으로 덜 편향된 결정을 내린다는 것은 중요한 사실이다. 위험 허용치가 판사들과 같은 수준의 범죄율을 획득하도록 설정된다면, 머신러닝 알고리즘이 보석 불허 결정을 내리는 유색인종은 41퍼센트 하락한다. 이와 유사한 결과가 다른 시나리오에서도 관측됐다. 정확도의 향상이 반드시 인종차별의 악화로 이어지는 것은 아니다. 그리고 연구진이 보여줬듯이, 머신러닝 알고리즘은 인종차별을 줄이는 쪽으로 쉽게 학습될 수 있다. ”

“ 어떤 면에서는 이런 반응이 합리적인 듯하다. 믿을 수 없는 알고리즘을 신경 쓸 이유가 어디 있겠나? 사람은 실수를 한다. 우리 모두 이 사실을 너무나도 잘 안다. 실수하는 것은 인간만이 가질 수 있는 특권이다. 다시 말해서 인간만이 실수할 수 있다. 우리는 기계가 완벽하길 기대한다. 이런 기대가 깨지면, 우리는 기계를 과감히 폐기한다. ”

“ 사람들에겐 어느 때건 자기를 둘러싼 세상에 대한 단 하나의 해석만이 존재한다. 그리고 보통 그것을 대체할 그럴듯한 해석을 내놓는 데 조금도 노력을 기울이지 않는다. 하나의 해석이면 충분하고, 실제로 사람들은 그렇게 세상을 경험한다. 세상을 다르게 바라보는 방법을 고민하면서 인생을 살아가진 않는 것이다. ”

“ 전문적인 판단을 내리는 것이 업인 사람은 항상 최대한 옳은 판단을 내리려 노력할 것이다. 하지만 아이러니하게도 판단이란 개념 자체가 어떤 판단이 옳고 그른지를 확신할 수 없다는 의미를 내포한다. ”

“ 좋은 결정과 관련해 널리 회자되는 격언에 따르면, 좋은 결정을 내리고자 할 때 개인의 가치와 사실을 뒤섞어선 안 된다. 좋은 결정은 희망과 두려움, 또는 선호와 가치의 영향을 전혀 받지 않는 객관적이고 정확한 예측적 판단에 기초해야 한다. ”

“ 정확도를 높이기 위해 의사결정자들은 어느 하나의 절차를 선택하기만 하면 된다. 다른 누군가에게서 두 번째 의견을 얻을 수 있다면 그렇게 하라. 군중의 지혜가 판단을 개선할 가능성이 높다. 그럴 수 없다면, '내부의 군중'을 만들어 같은 문제에 대해서 한 번 더 판단해보길 바란다. ”