AI 이후의 세계 함께 읽기 모임

아마 많은 의학 분야에서 지금 개발 연구 중일텐데 영상의학과는 의학영상으로 데이터를 업그레이드하고 있고 저희 과는 현미경을 보고 판독하는 일을 많이 해서 AI를 통해 현미경 판독 결과 등을 supervising해주는 역할을 전문가들 소견과 비교해 가며 machine learning에 기여하고 있는데요.. 아직 AI 판독결과만으로는 어려운 게 정상 세포들은 괜찮은데 조금이라도 정상 범주에서 벗어난 세포들은 그냥 좀 깨졌거나 artifact이거나 reactive한 반응이어도 너무 쉽게 암세포 등 문제세포로 판단하는 경향이 있습니다. 즉 너무 민감하게 판독해서 오히려 가양성이 많은 것이죠. 하지만 대부분의 세포가 정상이니 검사가 많은 경우 screening 용도로는 괜찮습니다. 그 중 이상한 걸로 걸러내진 결과들은 다시 전문가가 확인을 해야 하지만요. 이게 아무래도 database set가 정상세포가 많고 비정상세포는 상대적으로 적다보니 bias가 있을 수 있고요. 안나 카레니나의 유명한 문장도 그렇잖아요. 행복한 가정은 모두 비슷해보이지만 불행한 가정은 모두 저마다의 이유가 있다. 이처럼 정상 세포는 다 비슷해보이지만 비정상으로 보이는 세포는 다 저마다의 이유가 있습니다. 그리고 예를 들어 artifact같은 상황적인 문맥을 고려하기에는 아직 사람을 못 따라가는 점도 있습니다.

오. 실제 사례를 알려주셔서 흥미롭습니다. 아직은(?) 역시 사람의 감독과 판단이 필요한거군요. 이 책 앞에서도 잠깐 나온것 같은데, "어느 정도가 되면 전문가들이 AI의 출력물에 이의를 제기하는것을 꺼리게 될까?"라는 질문을 생각하게됩니다. AI의 결과물에 반론을 제기하는것을 꺼리게되는 지점부터 주도권이 넘어가게 될 것 같은 생각이 들어서요. 책을 읽으면서 적어도 현재의 AI가 학습하는 방식을 알게될수록, AI에 반론을 제기할 권리(?)가 적극적으로 보장되어야한다는 생각이 들어요.

정말 흥미롭게 잘 읽었습니다. 앞으로 점점 의료AI는 더더더 발전했음 좋겠어요. 의료AI가 발전하면 인간의 편견에 의한 오류(가령 의사의 개인판단)도 서로 견제할 수 있을 것 같고 집단지성으로도 발전할 수 있을 듯 하네요.artifact라는 단어를 몰라 영어사전에서 찾아보니 인공물이라는 뜻이던데, 환자 혹은 세포단위의 특수성을가리키는 말이 맞을까요?

아 보통 신체 자체의 이상이 아니라 슬라이드 제작이나 염색 및 검체 채취 등 검체 처리과정에서 생기는 인공산물이 잘못 비정상 세포 등 검체 이상으로 잘못 판독될 수 있는데요. 이런 인공산물은 무시하고 봐야하는데 AI는 이런 것마저 이상하다고 판독할 수 있거든요. 이외에도 환자 검체나 검사 결과에 영향을 미칠 수 있는 여러 조건 등의 문맥을 고려해야하는데 이걸 다 종합적으로 보게 하기가 힘들죠.

저자들이 우려하는 정도의 AI를 쓰지는 못했지만, 유튜브 알고리듬에도 AI가 어느 정도 간여하겠지요? 저는 이 알고리듬이 정말 무섭습니다. 마약 중독된 사람처럼 멍하니 보게 되고, 자꾸 보게 돼요. 개인적으로는 인터넷 접속 시간 자체를 줄이려 하고, 사회적으로도 뭔가 방안이 만들어져야 한다고 봅니다. 담배처럼 서서히 규제를 시작하는 것도 좋을 거 같아요.

4장까지 읽지 못하고 위의 글을 썼는데 4장이 바로 글로벌 네트워크 플랫폼 이야기네요. 밑줄 많이 그으면서 읽고 있습니다. ^^

'연결'을 의미 있는 미덕으로 보다보니 FOMO(fear of missing out)도 생기는 것 같아요. 타인의 인정에 목매여서 상대적 박탈감이나 자존감 문제도 생기구요.

제가 남말 할 처지는 아닌데요... ^^ 일종의 안 좋은 자기가축화라고 할 수도 있지 않을까 하는 생각이에요. 알고리즘이 인간의 약점을 너무 잘 파악하고 악용하는 거 같습니다.

어찌 보면 이렇게 악용되는 인간의 약점 또한 기대하지 못한 생각하지도 못했던 체스 전략처럼 '놀라운' 발견이 아닐까요? 저도 실은 악용될 가능성이 높다고 비관적으로 보는 편인데 이 한계를 제대로 파악하고 검증할 수 있으면 오히려 AI의 편향된 데이터가 결국 인간의 편향을 반영하였듯이 우리가 못 감지했던 편향을 밝혀내는 것에 기여할 수도 있을 것 같아요. AI의 한계를 통해 우리 학습의 피상성이나 예측 기전의 한계 또한 발견할 수 있을 것 같구요. 이번 장에서 AI의 한계에서 가장 인상적이었던 것은 AI가 반추 (SELF-REFLECT)하는 능력이 없고 자의식이 없어 자기가 모르는 것을 모른다는 (앗 소크라테스가 생각나는?) 것이었는데요. 인간은 그게 가능하니 이런 한계를 역으로 우리의 학습 및 사고방식을 더 나은 방향으로 개선하는 데 쓰일 수도 있다는 생각이 들었어요. 어쩌면 '감정은 어떻게 만들어지는가'에서 개념들을 재구축하는 것과 같이 우리의 사고의 오류나 편향 등을 발견하는 데, 그리고 나아가서 그런 우리들 안의 경험 및 감정 개념들의 데이터베이스를 재구축하는 데도 활용될 수 있지 않을까 생각해봤어요.

역설적인 이야기인데, AI 덕분에 인간이 자기가 어떤 방식으로 생각하는지, 자신들이 하던 생각에 어떤 빈틈이나 편향이 있었는지 성찰하게 되었네요. 저는 ‘반추’ 혹은 ‘반성’ 역시 부정확하고 인간적인 언어 아닐까, 알고리듬의 언어로 달리 표현하게 되는 날이 오지 않을까 하는 생각도 듭니다. 정기적으로 과거 자신의 결과물들을 살피며 새로운 방식으로 시뮬레이션해서 더 효율적이고 더 나은 결과물이 나오는지 알아보는 인공지능도 이론적으로 불가능할 거 같지 않네요.

알고리즘의 언어를 상상해보았어요. ㅎㅎ 가까운 미래에 복기, 대조, 평가 등 AI의 반성（反省）프로세스를 아우르는 신종 단어가 나올 듯 하네요. 반성이라는 단어가 인간적인 단어라는 것에 극히 공감합니다