[책걸상 '벽돌 책' 함께 읽기] #17. <노이즈>

@장맥주 @오도니안 @소피아 사실, 인공지능(AI) 알고리즘이 차별이나 편견을 강화한다는 지적은 수년 동안 여러 차례 나왔던 비판이죠. 캐시 오닐의 『대량살상 수학무기』는 대표적이고요. 캐시 오닐의 책이 2016년에 나왔고, 『노이즈』가 2021년에 나왔으니 그 사이에 이 이슈를 놓고서도 다양한 추가 논의가 있었겠죠. 그 일부가 『노이즈』의 논의에 반영된 것으로 이해했습니다. 저도 이 대목을 읽으면서 이런 생각을 해보긴 했어요. 성차별이나 인종 차별에 찌든 사람의 생각을 바꾸기 보다는 알고리즘의 편향을 조정하는 게 훨씬 더 쉽진 않을까, 하는 생각이요. 9, 10장은 그런 견해를 지지하는 근거들이겠죠.

@오도니안 @장맥주 개인적으로 책을 따라 읽는 한국 철학자 가운데 최훈 선생님이 계세요. 그 선생님께서 최근에 내신 책도 두 분이 흥미로워하실 것 같아서 소개합니다. (이 책은 제가 작은 동거인과 한 장씩 읽고서 수다 떠는 용도로 사용하기도 합니다.) 목차 한 번 살펴보세요. ('트롤리 딜레마' '동물의 고통'을 포함해서 두 분이서 나눴던 대화 소재가 이 책에도 여럿 등장합니다.)

대중적인 철학 저자 가운데 개인적으로 좋아하는 사람이 데이비드 에드먼즈입니다. 저는 『비트겐슈타인은 왜』를 읽고서 따라 읽는 저자가 되었는데요. (이 책은 나중에 『비트겐슈타인과 포퍼의 기막힌 10분』으로 다시 나왔습니다.) 이 저자가 쓴 책 가운데 트롤리 딜레마의 철학사적 의의를 포괄적으로 다룬 좋은 책이 있어요. 『저 뚱뚱한 남자를 죽이겠습니까?』. 저는 아주 재미있게 읽었고 트롤리 딜레마에 대한 이해의 폭도 아주 넓어졌어요.

3부 12장까지 읽었는데, 3부는 약간 심드렁하면서 읽게 되네요. 약간 당연하게 받아들이고 있는 얘기들(알고리즘이 인적 판단보다 우월하다거나, 전문가나 의사결정자들의 예측이 곧잘 틀린다던가)을 길게 길게 하는 느낌입니다. 그런데 '자기를 과신하는 전문가'를 사람들이 더 찾는것 같긴 합니다 ㅎㅎ 그걸 알기에 더 자신있게 지르는것일수도.

@도원 저는 이 모임에 참여하신 분들이 오히려 사회 전체에서 보면 약간 편향된 집단이라는 생각도 후기들 읽으면서 해봤어요. :) '인과적 사고'가 아니라 '통계적 사고'에 익숙하거나 혹은 그런 걸 지향하려고 노력하는 분들? 일상생활에서 만나는 대다수 분들은 알고리즘의 판단이 인간의 판단보다 낫다는 게 상식이라고 얘기하면 '정말?' 이럴 분들이 많지 않을까요?

인공지능 판사 같은 이야기는 예전엔 공상과학소설 소재로만 생각했는데 이렇게 현실에 가깝게 다가온 걸 보면 신기합니다. 인간이 아닌 인공지능의 판결을 사람들이 납득하며 받아들이기까지 얼마나 걸릴지는 모르겠지만 항고가 가능하고 법규가 명확한 분야의 1심 민사재판 같은데는 쉽게 적용이 될지 모르겠네요.

@오도니안 네, 저도 다분히 기계적으로 판단이 이뤄지는 판결은 인공지능(AI)에 맡기는 게 훨씬 낫다는 생각을 가끔은 해보네요.

저같은 경우는 통계를 평소에도 매일 다루기 때문에 그런 걸지도;;; 실은 학생때부터 논문 영작 및 교정을 봐주다보면 실제 학회지에서 봐달라는 얘기도 많지만 주변에서 지인들이 내용까진 아니어도 영어 좀 봐달라고 부탁하는 경우가 많은데.. 그러다보면 영어만 봐줄 수는 없고 어느 정도 내용을 이해해야 해서 제 전공과 전혀 상관없는 매우 다른 분야 (특히 사회과학이나 예체능)의 논문들도 많이 보게 되는데... 통계나 도표를 보면 이 정도를 significant하다고 본다고?? 나랑 유의하다는 기준이 좀 다른 건가?하고 좀 의아하기도 했거든요.. 어쩌면 이런 차이 때문에 그랬나..하고 이번 책을 통해 배웠네요. 안그래도 제 가족은 문과가 대부분인데 저는 이과여서 그런지 '통계적 사고'를 '인과적 사고'로 해석하는 것 때문에 딴지 걸고 다툴 때가 많았던 것 같아요;;;

그래서 통계의 일부분만 보여주면서 사람을 헷갈리게 하는 경우도 많죠. <알을 낳는 개>를 보고 통계가 꼭 믿을 수 있는 것은 아니다.. 생각하게 됬죠.

그러고 보니 알고리즘 판단이 더 낫다는 것이 사실 크게 놀랍지는 않습니다. 프로파일링 팟캐스트를 종종 듣는데요. 판결문에 항상 불우한 어린 시절로인한 어쩌구..하는 내용으로 시작되는 경우가 많아요. 그 범죄와 어린시절이직접 연관된 것도 아니고, 어떻게 보면 어떠한 아픔이 있다면 더 그렇게 행동해서는 않되는거 아닌가?라는 생각이 들었거든요.

맞아요. 불우한 환경에서 자랐기에 참작해줘야 한다는건 어느나라 법인지.. 이런걸 정확하게 따지면 누구는 또 T냐고 하더라구요 장발장이 배가 고파서 빵을 훔쳤으면 봐줘야 한다? 죄값 받고 다신 안그러면 되는데 전과자가 되었으니 취업하기도 어려운 현실이긴 하죠 이래저래 어렵습니다 사는게 😩

정말 말씀 듣고 보니 그럴 수도 있겠단 생각 드네요 :)