AI 이후의 세계 함께 읽기 모임

이제 우리는 AI로 인해 허락되는 새로운 인식 혹은 이해의 차원에 관한 탐구를 시작하는 시점에 이르렀다. 인간은 생각의 많은 부분을 AI에게 위임하며 인간의 맥락적 개념적 사고 능력이 저하됐다.

변화의 임계점이라는 부분 읽을때 뇌리에 확 꽂혔었어요. 저도

뒤늦게 미션 완수합니다. <디지털 시대가 되면서 정보는 쉽게 얻을 수 있게 됐지만 지혜와 성찰은 점점 줄고 있다.>로 요약해 봅니다.

아. '지혜와 성찰은 점점 줄고 있지만 정보는 쉽게 얻을 수 있다'는게 제 생각이었거든요. 그런데 이 책을 읽으면서 내가 좋아라 쓰는 그림AI 외에도 파장이 어마어마한 AI들을 접하며 장맥주님의 문장처럼 생각이 바뀌었어요.

처음에는 고대그리스철학에 스콜라철학까지.. 서양사를 통한 인류 이성의 궤적을 짚어가보니 서론이 길었네요. 결국 칸트의 물자체로 인간의 한계를 지적했지만 이론물리학이 칸트의 물자체에 한층 더 접근하며 비트겐슈타인의 사상이 AI와 머신러닝 이론의 토대가 되었다고 합니다. 다른 철학 사상들은 읽어봤는데 비트겐슈타인의 사상이 AI와 머신러닝 이론의 토대라니 흥미롭네요. 비트겐슈타인은 아직 안 읽어봐서 '철학적 탐구'를 좀더 읽어보고 싶어지네요.

필터링으로 인한 에코챔버 효과와 무한스크롤 기능(스크롤을 내리면 끝없이 로딩)이 제일 문제라고 생각해요. 할 수 있을만큼의 설정변경을 통해 유튜브는 히스토리 추적이나 자동 영상 추전이 안 되게 해놓았고, 페이스북은 앱을 지우고, 인스타는 최소한의 폴로우로 정보구득용으로 사용하고 있는데요, 그래도 가끔씩 의도치않게 토끼굴로 빠져서 예상보다 많은 시간을 흘려보내곤 해요. ㅜㅠ 아는것이 힘이라고, 이런 책들을 통해 AI의 문제점에 대해 이해하는것이 도움이 된다고 믿습니다.

와. 적극적으로 대응하고 계시는군요. 모시모시님의 글을 통해 에코챔버효과가 뭔지 새로 배웠어요. 몰라서 찾아본 단어 뜻--> (에코챔버란? - 반향실 효과(echo chamber)는 뉴스, 미디어 등 전하는 정보를 이용하는 이용자가 갖고 있던 기존의 신념이 닫힌 체계로 구성된 커뮤니케이션에 의해 증폭, 강화되고 같은 입장을 지닌 정보만 지속적으로 되풀이 수용하는 현상을 비유적으로 나타낸 말이다.) AI의 단점을 알아야 적극적으로 대응해서, 에코챔버의 방에서 빠져나올 수 있을 듯 하네요.

안그래도 에코챔버 효과 때문에 아이들에게도 유튜브 등 알고리즘으로 추천되는 영상매체에 조심하라고 경고하는데요. 니들이 맨날 보는 것만 보지 말고 좀더 다양한 관점에서 볼 수 있게 그런 것만 보지 말라고..;; 애들이 갈수록 정보를 책에서 접하지 않고 알고리즘으로 연결되는 영상들을 통해서만 알게 되니 비슷한 내용들만 보게 되서 완전히 잘못 알고 있는 것도 많더라구요;;

아마 많은 의학 분야에서 지금 개발 연구 중일텐데 영상의학과는 의학영상으로 데이터를 업그레이드하고 있고 저희 과는 현미경을 보고 판독하는 일을 많이 해서 AI를 통해 현미경 판독 결과 등을 supervising해주는 역할을 전문가들 소견과 비교해 가며 machine learning에 기여하고 있는데요.. 아직 AI 판독결과만으로는 어려운 게 정상 세포들은 괜찮은데 조금이라도 정상 범주에서 벗어난 세포들은 그냥 좀 깨졌거나 artifact이거나 reactive한 반응이어도 너무 쉽게 암세포 등 문제세포로 판단하는 경향이 있습니다. 즉 너무 민감하게 판독해서 오히려 가양성이 많은 것이죠. 하지만 대부분의 세포가 정상이니 검사가 많은 경우 screening 용도로는 괜찮습니다. 그 중 이상한 걸로 걸러내진 결과들은 다시 전문가가 확인을 해야 하지만요. 이게 아무래도 database set가 정상세포가 많고 비정상세포는 상대적으로 적다보니 bias가 있을 수 있고요. 안나 카레니나의 유명한 문장도 그렇잖아요. 행복한 가정은 모두 비슷해보이지만 불행한 가정은 모두 저마다의 이유가 있다. 이처럼 정상 세포는 다 비슷해보이지만 비정상으로 보이는 세포는 다 저마다의 이유가 있습니다. 그리고 예를 들어 artifact같은 상황적인 문맥을 고려하기에는 아직 사람을 못 따라가는 점도 있습니다.

오. 실제 사례를 알려주셔서 흥미롭습니다. 아직은(?) 역시 사람의 감독과 판단이 필요한거군요. 이 책 앞에서도 잠깐 나온것 같은데, "어느 정도가 되면 전문가들이 AI의 출력물에 이의를 제기하는것을 꺼리게 될까?"라는 질문을 생각하게됩니다. AI의 결과물에 반론을 제기하는것을 꺼리게되는 지점부터 주도권이 넘어가게 될 것 같은 생각이 들어서요. 책을 읽으면서 적어도 현재의 AI가 학습하는 방식을 알게될수록, AI에 반론을 제기할 권리(?)가 적극적으로 보장되어야한다는 생각이 들어요.

정말 흥미롭게 잘 읽었습니다. 앞으로 점점 의료AI는 더더더 발전했음 좋겠어요. 의료AI가 발전하면 인간의 편견에 의한 오류(가령 의사의 개인판단)도 서로 견제할 수 있을 것 같고 집단지성으로도 발전할 수 있을 듯 하네요.artifact라는 단어를 몰라 영어사전에서 찾아보니 인공물이라는 뜻이던데, 환자 혹은 세포단위의 특수성을가리키는 말이 맞을까요?

아 보통 신체 자체의 이상이 아니라 슬라이드 제작이나 염색 및 검체 채취 등 검체 처리과정에서 생기는 인공산물이 잘못 비정상 세포 등 검체 이상으로 잘못 판독될 수 있는데요. 이런 인공산물은 무시하고 봐야하는데 AI는 이런 것마저 이상하다고 판독할 수 있거든요. 이외에도 환자 검체나 검사 결과에 영향을 미칠 수 있는 여러 조건 등의 문맥을 고려해야하는데 이걸 다 종합적으로 보게 하기가 힘들죠.

저자들이 우려하는 정도의 AI를 쓰지는 못했지만, 유튜브 알고리듬에도 AI가 어느 정도 간여하겠지요? 저는 이 알고리듬이 정말 무섭습니다. 마약 중독된 사람처럼 멍하니 보게 되고, 자꾸 보게 돼요. 개인적으로는 인터넷 접속 시간 자체를 줄이려 하고, 사회적으로도 뭔가 방안이 만들어져야 한다고 봅니다. 담배처럼 서서히 규제를 시작하는 것도 좋을 거 같아요.

4장까지 읽지 못하고 위의 글을 썼는데 4장이 바로 글로벌 네트워크 플랫폼 이야기네요. 밑줄 많이 그으면서 읽고 있습니다. ^^