AI 이후의 세계 함께 읽기 모임

저도 밑줄쫙 그었던 부분인데 반갑습니다♡♡

네. 제 생각엔 저 두 문장이 2장 내용을 잘 담고 있는것 같아요. 저자와 2장에서 함께 살펴본 과거의 사유의 역사와는 차원이 다른 길을 AI가 열었고, AI의 광범위한 사용은 특히 인간으로부터 성찰하는 시간을 앗아감으로서 인간사고를 의존적으로 만드는 등 도전을 제기하는데.....(그래서 이제 다음장에서 어떻게 해야 인간의 지혜와 소신을 지킬 수 있을지 알려주실 거죠? 작가님?)

소신이 생기려면 성찰하는 시간이 필요하다. 즉 필요한 건 성찰할 시간..? 스마트폰과 컴퓨터 끄고 명상하라는 걸까요..?ㅎㅎ

ㅎㅎ 그러게요. 정말 요즘 기억과 사고를 인터넷과 AI에 외주 주고 있다는 생각에 고민이 많은데, AI와 공생하면서 효율적으로 살면서도 나를 지키는... 뭔가 누이좋고 매부좋은 만병통치약이 어디없나... 두리번거리고 있습니다.

서론이 길었지만 결국 저 두 문장에 2장의 요지가 담겨있는..

이제 우리는 AI로 인해 허락되는 새로운 인식 혹은 이해의 차원에 관한 탐구를 시작하는 시점에 이르렀다. 인간은 생각의 많은 부분을 AI에게 위임하며 인간의 맥락적 개념적 사고 능력이 저하됐다.

변화의 임계점이라는 부분 읽을때 뇌리에 확 꽂혔었어요. 저도

뒤늦게 미션 완수합니다. <디지털 시대가 되면서 정보는 쉽게 얻을 수 있게 됐지만 지혜와 성찰은 점점 줄고 있다.>로 요약해 봅니다.

아. '지혜와 성찰은 점점 줄고 있지만 정보는 쉽게 얻을 수 있다'는게 제 생각이었거든요. 그런데 이 책을 읽으면서 내가 좋아라 쓰는 그림AI 외에도 파장이 어마어마한 AI들을 접하며 장맥주님의 문장처럼 생각이 바뀌었어요.

처음에는 고대그리스철학에 스콜라철학까지.. 서양사를 통한 인류 이성의 궤적을 짚어가보니 서론이 길었네요. 결국 칸트의 물자체로 인간의 한계를 지적했지만 이론물리학이 칸트의 물자체에 한층 더 접근하며 비트겐슈타인의 사상이 AI와 머신러닝 이론의 토대가 되었다고 합니다. 다른 철학 사상들은 읽어봤는데 비트겐슈타인의 사상이 AI와 머신러닝 이론의 토대라니 흥미롭네요. 비트겐슈타인은 아직 안 읽어봐서 '철학적 탐구'를 좀더 읽어보고 싶어지네요.

필터링으로 인한 에코챔버 효과와 무한스크롤 기능(스크롤을 내리면 끝없이 로딩)이 제일 문제라고 생각해요. 할 수 있을만큼의 설정변경을 통해 유튜브는 히스토리 추적이나 자동 영상 추전이 안 되게 해놓았고, 페이스북은 앱을 지우고, 인스타는 최소한의 폴로우로 정보구득용으로 사용하고 있는데요, 그래도 가끔씩 의도치않게 토끼굴로 빠져서 예상보다 많은 시간을 흘려보내곤 해요. ㅜㅠ 아는것이 힘이라고, 이런 책들을 통해 AI의 문제점에 대해 이해하는것이 도움이 된다고 믿습니다.

와. 적극적으로 대응하고 계시는군요. 모시모시님의 글을 통해 에코챔버효과가 뭔지 새로 배웠어요. 몰라서 찾아본 단어 뜻--> (에코챔버란? - 반향실 효과(echo chamber)는 뉴스, 미디어 등 전하는 정보를 이용하는 이용자가 갖고 있던 기존의 신념이 닫힌 체계로 구성된 커뮤니케이션에 의해 증폭, 강화되고 같은 입장을 지닌 정보만 지속적으로 되풀이 수용하는 현상을 비유적으로 나타낸 말이다.) AI의 단점을 알아야 적극적으로 대응해서, 에코챔버의 방에서 빠져나올 수 있을 듯 하네요.

안그래도 에코챔버 효과 때문에 아이들에게도 유튜브 등 알고리즘으로 추천되는 영상매체에 조심하라고 경고하는데요. 니들이 맨날 보는 것만 보지 말고 좀더 다양한 관점에서 볼 수 있게 그런 것만 보지 말라고..;; 애들이 갈수록 정보를 책에서 접하지 않고 알고리즘으로 연결되는 영상들을 통해서만 알게 되니 비슷한 내용들만 보게 되서 완전히 잘못 알고 있는 것도 많더라구요;;

아마 많은 의학 분야에서 지금 개발 연구 중일텐데 영상의학과는 의학영상으로 데이터를 업그레이드하고 있고 저희 과는 현미경을 보고 판독하는 일을 많이 해서 AI를 통해 현미경 판독 결과 등을 supervising해주는 역할을 전문가들 소견과 비교해 가며 machine learning에 기여하고 있는데요.. 아직 AI 판독결과만으로는 어려운 게 정상 세포들은 괜찮은데 조금이라도 정상 범주에서 벗어난 세포들은 그냥 좀 깨졌거나 artifact이거나 reactive한 반응이어도 너무 쉽게 암세포 등 문제세포로 판단하는 경향이 있습니다. 즉 너무 민감하게 판독해서 오히려 가양성이 많은 것이죠. 하지만 대부분의 세포가 정상이니 검사가 많은 경우 screening 용도로는 괜찮습니다. 그 중 이상한 걸로 걸러내진 결과들은 다시 전문가가 확인을 해야 하지만요. 이게 아무래도 database set가 정상세포가 많고 비정상세포는 상대적으로 적다보니 bias가 있을 수 있고요. 안나 카레니나의 유명한 문장도 그렇잖아요. 행복한 가정은 모두 비슷해보이지만 불행한 가정은 모두 저마다의 이유가 있다. 이처럼 정상 세포는 다 비슷해보이지만 비정상으로 보이는 세포는 다 저마다의 이유가 있습니다. 그리고 예를 들어 artifact같은 상황적인 문맥을 고려하기에는 아직 사람을 못 따라가는 점도 있습니다.

오. 실제 사례를 알려주셔서 흥미롭습니다. 아직은(?) 역시 사람의 감독과 판단이 필요한거군요. 이 책 앞에서도 잠깐 나온것 같은데, "어느 정도가 되면 전문가들이 AI의 출력물에 이의를 제기하는것을 꺼리게 될까?"라는 질문을 생각하게됩니다. AI의 결과물에 반론을 제기하는것을 꺼리게되는 지점부터 주도권이 넘어가게 될 것 같은 생각이 들어서요. 책을 읽으면서 적어도 현재의 AI가 학습하는 방식을 알게될수록, AI에 반론을 제기할 권리(?)가 적극적으로 보장되어야한다는 생각이 들어요.