각 장의 분량이 적어서 읽을 만해요^^ 소피아님이라면 충분히!!
[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>
D-29
“ 머신러닝 모델은 부러진 다리와 같은 예외적 변수를 감지해낼 수 있다. 우리가 생각한 것보다 훨씬 많이 포착할 수 있다. 이것이 머신러닝 모델이 매우 정확한 추정값을 도출해낼 수 있는 이유 중에 하나다. 방대한 사례에 대한 거대한 데이터를 고려하면, 가령 영화 관람자들의 행동을 추적하고 분석하는 모델은 실제로 영화를 보러가는 날 병원을 방문한 사람들은 그날 저녁에 영화를 보러 가지 않을 가능성이 높다는 사실을 찾아낼 수 있다. 이런 식으로 흔치 않은 사건에 대한 예측의 정확도가 개선되면, 우리가 머신러닝 모델을 감독해야 할 필요성은 줄어들 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 머신러닝으로 설계된 이 예측 모델은 같은 정보를 사용했던 선형 모델보다도 훨씬 더 성공적이었다. 그 이유가 흥미롭다. “머신러닝 알고리즘은 변수들의 조합에서 다른 예측 모델로는 감지할 수 없는 중요한 신호를 찾아낸다.” 16 다른 예측 모델로는 쉽게 파악할 수 없는 패턴을 포착하는 머신러닝 알고리즘의 능력은 고위험군으로 분류된 피고들에게서 특히나 명확해진다. 다시 말해서 데이터의 일부 패턴은, 비록 드물게 나타나는 패턴일지라도, 고위험군을 정확하게 예측해낸다. 머신러닝 알고리즘이 드물지만 결정적인 패턴을 찾아내는 능력은 부러진 다리 변수를 다시 떠올리게 한다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
아직 읽어보지 못한 부분이지만 선형 회귀분석, 심지어 가중치를 두지 않은 단순 모델조차 전문가들보다 노이즈 적은 결과를 낸다는 판에 머신러닝이 우수한 성과를 낸다는 건 거의 동어반복적인 결론이군요 ㅎ
“ 원칙적으로 이렇게 차별적인 예측 결과가 나오는 것은 분명히 위험 요인이다. 하지만 알고리즘이 판사보다 인종적으로 덜 편향된 결정을 내린다는 것은 중요한 사실이다. 위험 허용치가 판사들과 같은 수준의 범죄율을 획득하도록 설정된다면, 머신러닝 알고리즘이 보석 불허 결정을 내리는 유색인종은 41퍼센트 하락한다. 이와 유사한 결과가 다른 시나리오에서도 관측됐다. 정확도의 향상이 반드시 인종차별의 악화로 이어지는 것은 아니다. 그리고 연구진이 보여줬듯이, 머신러닝 알고리즘은 인종차별을 줄이는 쪽으로 쉽게 학습될 수 있다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
AI의 편향성 관련해서 막연히 알고 있던 바와 정반대 내용이라 좀 놀랐습니다.
“ 어떤 면에서는 이런 반응이 합리적인 듯하다. 믿을 수 없는 알고리즘을 신경 쓸 이유가 어디 있겠나? 사람은 실수를 한다. 우리 모두 이 사실을 너무나도 잘 안다. 실수하는 것은 인간만이 가질 수 있는 특권 이다. 다시 말해서 인간만이 실수할 수 있다. 우리는 기계가 완벽하길 기대한다. 이런 기대가 깨지면, 우리는 기계를 과감히 폐기한다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 10장, 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
방금 말한 잡음의 일반적인 속성은 이 책이 추구하는 바에서 매우 중요하다. 왜냐하면 우리가 내리는 많은 결론은 정답이 무엇인지 알 수 없는 판단을 근거로 하기 때문이다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 사람들에겐 어느 때건 자기를 둘러싼 세상에 대한 단 하나의 해석만이 존재한다. 그리고 보통 그것을 대체할 그럴듯한 해석을 내놓는 데 조금도 노력을 기울이지 않는다. 하나의 해석이면 충분하고, 실제로 사람들은 그렇게 세상을 경험한다. 세상을 다르게 바라보는 방법을 고민하면서 인생을 살아가진 않는 것이다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 전문적인 판단을 내리는 것이 업인 사람은 항상 최대한 옳은 판단을 내리려 노력할 것이다. 하지만 아이러니하게도 판단이란 개념 자체가 어떤 판단이 옳고 그른지를 확신할 수 없다는 의미를 내포한다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
많은 전문적인 판단이 검증 불가능하다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 좋은 결정과 관련해 널리 회자되는 격언에 따르면, 좋은 결정을 내리고자 할 때 개인의 가치와 사실을 뒤섞어선 안 된다. 좋은 결정은 희망과 두려움, 또는 선호와 가치의 영향을 전혀 받지 않는 객관적이고 정확한 예측적 판단에 기초해야 한다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 정확도를 높이기 위해 의사결정자들은 어느 하나의 절차를 선택하기만 하면 된다. 다른 누군가에게서 두 번째 의견을 얻을 수 있다면 그렇게 하라. 군중의 지혜가 판단을 개선할 가능성이 높다. 그럴 수 없다면, '내부의 군중'을 만들어 같은 문제에 대해서 한 번 더 판단해보길 바란다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
7장에서 다수의 개인이 내린 판단을 종합하면 잡음이 줄어든다고 말했다. 하지만 집단 역학 때문에 집단이 잡음을 증폭시킬 수도 있다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
군중의 지혜에는 독립성이라는 전제 조건이 붙는다. 만약 사람들이 스스로 판단을 내리지 않고 남들의 생각에 의존한다면, 군중은 그렇게 지혜롭지 않을지도 모른다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
“ 임상학자들과 여타 전문가들은 자신들이 정보를 통합하고 분석하는 능력이 유난히 뛰어나다고 믿었다. 하지만 밀은 그들이 정보를 통합하는 능력이 애처로울 정도로 취약하다는 사실을 발견했다. ”
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
여러 연구들을 재검토하여 확인된 사실들은 직설적인 결론을 지지한다. 단순한 모델이 인간을 뛰어넘는다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
알고리즘에 대한 일반적인 결론을 내리기 전에, 우리는 일부 알고리즘은 판단자보다 더 정확할 뿐만 아니라 더 공정한 예측을 한다는 사실을 기억해야 한다.
『노이즈 : 생각의 잡음 - 판단을 조종하는 생각의 함정』 대니얼 카너먼 외 지음, 장진영 옮김, 안서원 감수
문장모음 보기
무작정 3부 9장부터 시작해서 10장까지 읽었습니다. 근데 글이 정돈되지 않은 느낌이 드네요? 문장들이 따로 노는 느낌이랄까?
임상적 판단 < 기계적 예측 (선형회귀분석, 다중회귀분석) < 머신러닝 알고리즘 —> 이런 식으로 정확도가 높아진다는 이야기인데, “이건 어느 정도는 당연한 소리 아닌가“하는 생각으로 읽었습니다. (기계적 계산에 쉽게 굴복하는 편 ㅠㅠ)
가중치 적용하는 예측 모델이야기 읽으면서, 이번 미국 대선을 앞두고 많은 여론조사 기관들이 어디어디에다가 가중치를 두어서 유권자 행동방식을 예측했는 지 길게길게 설명하던 게 떠올랐습니다. 이런 대규모 고부담 예측에서는 아무래도 인간적 판단보다는 머신러닝 알고리즘이 훨씬 뛰어나겠지요.
하지만, 그렇다고 기계적 예측이나 머신러닝 알고리즘에만 전적으로 판단을 외주주는 것도 문제가 있다고 생각합니다. 분야마다 다르겠지만, 그래서 이런 양적 접근법에 질적 접근요소를 결합하는 혼합 접근 방식이 늘어나는 추세 아닌가요? 예를 들면 마케팅 분야의 중요한 의사 결정에 인류학적 접근법이 시도되는 경우.
인간보다 차별없는 AI 판단—> 이 부분에서는 반신반의 하게되는 데, AI를 학습시키는 것은 인간 아닌가요? 게다가 얼마 전에 ai 챗봇 만드는 거 배워보겠다고 이것저것 만져보는 와중에, 사진 생성하려고 가상의 직업명 키워드를 몇 개 던져 주었더니 (explorer, inventor, entrepreneur 등) 모두 백인 남자가 나와서 얘, 별로 똑똑하지 않구나? 했던 기억이 있습니다. 그래도 전반적으로는 인간이 개입하는 것보다 AI가 차별이 덜 하다는 거겠지요? ^^;;
그쵸 우리가 이제 인공지능의 성능에 익숙해져서 그런지 전 왜 임상적 판단에 비해 알고리즘이 더 노이즈 적고 우수한 예측 성능 보이는 게 놀랍지 않은지;;
글타래
화제 모음
지정된 화제가 없습니다