[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>

AI의 편향성 관련해서 막연히 알고 있던 바와 정반대 내용이라 좀 놀랐습니다.

무작정 3부 9장부터 시작해서 10장까지 읽었습니다. 근데 글이 정돈되지 않은 느낌이 드네요? 문장들이 따로 노는 느낌이랄까? 임상적 판단 < 기계적 예측 (선형회귀분석, 다중회귀분석) < 머신러닝 알고리즘 —> 이런 식으로 정확도가 높아진다는 이야기인데, “이건 어느 정도는 당연한 소리 아닌가“하는 생각으로 읽었습니다. (기계적 계산에 쉽게 굴복하는 편 ㅠㅠ) 가중치 적용하는 예측 모델이야기 읽으면서, 이번 미국 대선을 앞두고 많은 여론조사 기관들이 어디어디에다가 가중치를 두어서 유권자 행동방식을 예측했는 지 길게길게 설명하던 게 떠올랐습니다. 이런 대규모 고부담 예측에서는 아무래도 인간적 판단보다는 머신러닝 알고리즘이 훨씬 뛰어나겠지요. 하지만, 그렇다고 기계적 예측이나 머신러닝 알고리즘에만 전적으로 판단을 외주주는 것도 문제가 있다고 생각합니다. 분야마다 다르겠지만, 그래서 이런 양적 접근법에 질적 접근요소를 결합하는 혼합 접근 방식이 늘어나는 추세 아닌가요? 예를 들면 마케팅 분야의 중요한 의사 결정에 인류학적 접근법이 시도되는 경우. 인간보다 차별없는 AI 판단—> 이 부분에서는 반신반의 하게되는 데, AI를 학습시키는 것은 인간 아닌가요? 게다가 얼마 전에 ai 챗봇 만드는 거 배워보겠다고 이것저것 만져보는 와중에, 사진 생성하려고 가상의 직업명 키워드를 몇 개 던져 주었더니 (explorer, inventor, entrepreneur 등) 모두 백인 남자가 나와서 얘, 별로 똑똑하지 않구나? 했던 기억이 있습니다. 그래도 전반적으로는 인간이 개입하는 것보다 AI가 차별이 덜 하다는 거겠지요? ^^;;

그쵸 우리가 이제 인공지능의 성능에 익숙해져서 그런지 전 왜 임상적 판단에 비해 알고리즘이 더 노이즈 적고 우수한 예측 성능 보이는 게 놀랍지 않은지;;

2부까지는 임상적 판단, 즉 인간 전문가들이 하는 판단이 생각처럼 정확도가 높지 않다는 것을 보여주는 데 주력했던 것 같아요. 당연한 이야기라고 할 수도 있지만, 전문가들이 깊은 전문지식과 풍부한 경험을 갖고 내리는 판단이 변수가 얼마 되지 않는 단순한 수치 모형보다 노이즈가 심하다는 건 일반 사람들의 기대와 다른 내용일 수 있을 것 같습니다. 10장에 보면 영화 머니볼 이야기가 나오는데, 야구문외한인 젊은 통계 전문가가 어떤 선수를 채용하고 어떤 선수를 트레이딩할 것인지 결정하는 알고리즘을 제시하니까 수십년 동안 스카우트 일을 했던 사람들이 비웃는 장면이 나오거든요. 자신들의 전문성과 경험을 하찮은 수학 모델로 대체할 수 있다는 아이디어를 거부한 거죠. 그렇지만 의외로 그런 전문가들의 판단이 얼마나 맞는지와 별개로 얼마나 많은 노이즈(편차)를 갖고 있는지를 2부에서 중점적으로 이야기한 것 같습니다. 대표적인 것이 우리가 공정할 것으로 기대하는 판사들의 판결이 개인 성향에 따라 매우 큰 편차를 보인다는 결과겠죠.

저 영어로 읽다가 Howard Wainer가 쓴 논문제목을 어떻게 번역했을지 너무 궁금해져서 결국 도서관에 가서 한글책 빌려왔어요 ㅋㅋㅋ It don’t make no nevermind : 뭐, 신경 쓰지 않을 수가 없더라고 외국 논문 중엔 가끔 이런 informal하고 유머러스한 논문들이 보이던데 한국에도 이런 논문들이 있나요?

성균관대 물리학과의 김범준 교수님이 ‘혈액형과 성격의 상관관계에 관한 연구’와 ‘윷놀이에서 업는 것과 잡는 것 중, 어떤 것이 더 유리한지 살펴본 연구’ 논문을 내셨다고 자랑하는 걸 들은 적이 있습니다. ^^

저슨 한국 논문에서 구어체 느낌 조차 못 본 것 같은데요? 논문도 재미있게 쓰면 더 잘 읽을수.. 그래도 쉽지 않겠네요ㅎㅎ