정말 흥미롭게 잘 읽었습니다. 앞으로 점점 의료AI는 더더더 발전했음 좋겠어요. 의료AI가 발전하면 인간의 편견에 의한 오류(가령 의사의 개인판단)도 서로 견제할 수 있을 것 같고 집단지성으로도 발전할 수 있을 듯 하네요.artifact라는 단어를 몰라 영어사전에서 찾아보니 인공물이라는 뜻이던데, 환자 혹은 세포단위의 특수성을가리키는 말이 맞을까요?
AI 이후의 세계 함께 읽기 모임
D-29
아 보통 신체 자체의 이상이 아니라 슬라이드 제작이나 염색 및 검체 채취 등 검체 처리과정에서 생기는 인공산물이 잘못 비정상 세포 등 검체 이상으로 잘못 판독될 수 있는데요. 이런 인공산물 은 무시하고 봐야하는데 AI는 이런 것마저 이상하다고 판독할 수 있거든요. 이외에도 환자 검체나 검사 결과에 영향을 미칠 수 있는 여러 조건 등의 문맥을 고려해야하는데 이걸 다 종합적으로 보게 하기가 힘들죠.
저자들이 우려하는 정도의 AI를 쓰지는 못했지만, 유튜브 알고리듬에도 AI가 어느 정도 간여하겠지요? 저는 이 알고리듬이 정말 무섭습니다. 마약 중독된 사람처럼 멍하니 보게 되고, 자꾸 보게 돼요. 개인적으로는 인터넷 접속 시간 자체를 줄이려 하고, 사회적으로도 뭔가 방안이 만들어져야 한다고 봅니다. 담배처럼 서서히 규제를 시작하는 것도 좋을 거 같아요.
4장까지 읽지 못하고 위의 글을 썼는데 4장이 바로 글로벌 네트워크 플랫폼 이야기네요. 밑줄 많이 그으면서 읽고 있습니다. ^^
“ 개인은 컴퓨터와 휴대폰으로 예전보다 많은 정보를 보유(혹은 사용)한다. 기업은 사용자 데이터를 취합함으로써 다수의 주권국보다 강한 권력과 영향력을 행사한다. 정부는 라이벌 국가에게 사이버공간을 빼앗기지 않기 위해 그 공간을 탐색·이용하기 시작했고, 이때 적용되는 원칙이나 규제는 사실상 없다. 정부에게 사이버공간은 라이벌보다 우위에 서고자 혁신을 일으켜야 하는 영역이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 2장 그간의 궤적: 기술과 사유의 역사, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 지금껏 인류는 집단 기억의 한계를 극복하기 위해 무수한 개념을 만들었지만, 디지털 네이티브들은 그럴 필요성을 아예 못 느끼거나 적어도 시급하게 느끼진 않는다. 그들은 사소하든 중요하든 궁금한 것이 있으면 그냥 검색엔진에 물어본다. 그러면 검색엔진은 AI를 이용해 질문에 답한다. 그 과정에서 인간은 생각의 많은 부분을 AI에게 위임한다. 하지만 정보는 그 자체로 설명되지 않는다. 어떤 정보가 유용하게 쓰이려면, 적어도 의미가 있으려면 문화와 역사라는 렌즈를 거쳐 이해돼야 한다. 정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 2장 그간의 궤적: 기술과 사유의 역사, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천·수만·수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다. 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다. 디지털 세상에는 지혜가 생길 여유가 없다. 디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다. 그래서 디지털 세상은 이성이 의식의 요체라는 계몽주의의 명제를 위협한다. 디지털 세상은 역사적으로 거리·시간·언어의 한계 때문에 인간의 행동에 가해진 제약을 파기하면서 ‘연결’을 의미 있는 미덕으로 내세운다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 2장 그간의 궤적: 기술과 사유의 역사, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
'연결'을 의미 있는 미덕으로 보다보니 FOMO(fear of missing out)도 생기는 것 같아요. 타인의 인정에 목매여서 상대적 박탈감이나 자존감 문제도 생기구요.
제가 남말 할 처지는 아닌데요... ^^ 일종의 안 좋은 자기가축화라고 할 수도 있지 않을까 하는 생각이에요. 알고리즘이 인간의 약점을 너무 잘 파악하고 악용하는 거 같습니다.
어찌 보면 이렇게 악용되는 인간의 약점 또한 기대하지 못한 생각하지도 못했던 체스 전략처럼 '놀라운' 발견이 아닐까요? 저도 실은 악용될 가능성이 높다고 비관적으로 보는 편인데 이 한계를 제대로 파악하고 검증할 수 있으면 오히려 AI의 편향된 데이터가 결국 인간의 편향을 반영하였듯이 우리가 못 감지했던 편향을 밝혀내는 것에 기여할 수도 있을 것 같아요. AI의 한계를 통해 우리 학습의 피상성이나 예측 기전의 한계 또한 발견할 수 있을 것 같구요.
이번 장에서 AI의 한계에서 가장 인상적이었던 것은 AI가 반추 (SELF-REFLECT)하는 능력이 없고 자의식이 없어 자기가 모르는 것을 모른다는 (앗 소크라테스가 생각나는?) 것이었는데요. 인간은 그게 가능하니 이런 한계를 역으로 우리의 학습 및 사고방식을 더 나은 방향으로 개선하는 데 쓰일 수도 있다는 생각이 들었어요. 어쩌면 '감정은 어떻게 만들어지는가'에서 개념들을 재구축하는 것과 같이 우리의 사고의 오류나 편향 등을 발견하는 데, 그리고 나아가서 그런 우리들 안의 경험 및 감정 개념들의 데이터베이스를 재구축하는 데도 활용될 수 있지 않을까 생각해봤어요.
역설적인 이야기인데, AI 덕분에 인간이 자기가 어떤 방식으로 생각하는지, 자신들이 하던 생각에 어떤 빈틈이나 편향이 있었는지 성찰하게 되었네요. 저는 ‘반추’ 혹은 ‘반성’ 역시 부정확하고 인간적인 언어 아닐까, 알고리듬의 언어로 달리 표현하게 되는 날이 오지 않을까 하는 생각도 듭니다. 정기적으로 과거 자신의 결과물들을 살피며 새로운 방식으로 시뮬레이션해서 더 효율적이고 더 나은 결과물이 나오는지 알아보는 인공지능도 이론적으로 불가능할 거 같지 않네요.
알고리즘의 언어를 상상해보았어요. ㅎㅎ 가까운 미래에 복기, 대조, 평가 등 AI의 반성（反省）프로세스를 아우르는 신종 단어가 나올 듯 하네요.
반성이라는 단어가 인간적인 단어라는 것에 극히 공감합니다
AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ AI를 활용할 때 우리가 그 오류를 이해해야 하는 이유는 AI를 용서하기 위해서가 아니라 교정하기 위해서다. 편향성은 인간 사회의 모든 측면에 존재하고, 우리는 그 모든 면에서 진지하게 대응해야 한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 이 같은 ‘학습’ 능력의 토대는 입력(예: 게임의 규칙, 그 규칙에 의거해 각 수의 우수성을 측정한 값)을 반복 가능한 출력(예: 게임 승리)으로 변환하는 알고리즘이다. 하지만 머신러닝 알고리즘은 고전적 알고리즘의 정밀성과 예측가능성에서 탈피했다. 고전적 알고리즘은 정밀한 결과를 도출하는 절차인 반면에, 머신러닝 알고리즘은 비정밀한 결과를 개선하는 절차다. 그런 알고리즘이 눈부신 발전을 이룩하고 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 미국 국방고등연구계획국(DARPA)의 알파도그파이트(AlphaDogfight) 프로젝트에서는 AI 전투기 조종사가 모의전에서 인간 조종사를 능가하는 비행술을 선보였다. 전투기만 아니라 배달용 드론에도 활용되는 만큼 앞으로 AI가 군대와 민간에서 항공의 미래에 지대한 영향을 미칠 전망이다. 혁신이 막 시작됐을 뿐인데도 이미 인간의 경험이 미묘하게 달라졌다. 앞으로는 이런 추세가 더욱 가속될 것이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 그러다 1990년대에 돌파구가 마련됐다. AI의 핵심은 작업을 수행하는 것, 더 자세히 말하자면 복잡한 문제를 효과적으로 해결할 방법을 찾고 실행하는 것이다. 그래서 연구자들은 기존과 달리 기계가 스스로 학습하는 방식이 필요하다고 판단했다. 다시 말해 발상의 전환이 일어났다. 인간이 선별한 지식을 부호화해 기계에 입력하는 방식에서 탈피하여 기계에 학습 과정을 일임하는 방식으로 선회했다. 1990년대에는 AI 계의 이단아들이 이전 시대에 통용된 가정 중 다수를 무시하고 머신러닝으로 관심을 돌렸다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 머신러닝은 이미 1950년대부터 연구됐지만 1990년대에 들어서야 그간 발전한 기술 덕분에 비로소 실효성이 생겼다. 현실적으로 가장 효과적인 방식은 신경망을 이용해 방대한 데이터에서 패턴을 추출하는 것이었다. 철학에 빗대 말하자면 AI계의 선구자들은 세계를 기계론적 규칙으로 단순하게 표현하려던 초기 계몽주의적 관점에서 벗어나, 현실에 근접한 모델을 만드는 쪽으로 돌아섰다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 생성형 AI를 만들 때 주로 사용되는 훈련 기법은 상호보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것이다. 이를 ‘생성형 적대 신경망(GAN, Generative Adversarial Networks)’이라고 부른다. GAN은 잠재적 출력을 생성하는 ‘생성망’과 조악한 출력의 생성을 막는 ‘판별망’으로 구성된다. 비유하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다. 훈련은 생성망과 판별망을 번갈아가며 진행된다. 생성망을 훈련할 때는 판별망을 고정하고, 판별망을 훈련할 때는 생성망을 고정한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
저는 그림AI를 가끔 쓰는데요. 생성형AI의 기법이 두 신경망의 경쟁이라는걸 알고는 상상해보았어요. 마음대로 그림을 그리는 아이(생성망)와 그림들에 점수를 매기고 거르는 평가자(판별망)간의 무한대결이라니 ㅎㅎ
글타래
화제 모음
지정된 화제가 없습니다