AI 이후의 세계 함께 읽기 모임

@모시모시 거대한 AI 알고리즘 앞에서 개인의 판별능력이 그 어느 때보다 중요해진 시기가 된 것 같아요.

댓글들이 너무 수준이 높아 공부할게 많아서 너무 감사하네요. 역시 혼자 읽을때보다 나누는게 행복한 것 같습니다.

저는 이거보고 저희 시아버지가 애용하시는 고스톱앱이 생각났어요. 이놈의 승부수는 도통 모르겠다고 하시더라구요 ㅎ

저자는 체스 이야기를 하지만 사실 저희한테는 바둑 이야기가 더 익숙할 텐데요, 바둑에서도 인간 기보를 보고 배운 알파고 리(이세돌과 맞붙은 버전)와 알파고 마스터(커제와 맞붙은 버전)를 처음에 바둑 규칙만 입력하고 바둑을 알아서 익힌 알파고 제로가 압도적으로 이겼습니다. 알파고 리를 상대로는 100전 100승, 알파고 마스터를 상대로는 100전 89승이었습니다. 인간 기사들은 아직도 알파고 대 알파고 대국 기보를 이해하려고 연구 중입니다.

“기계가 여전히 주체가 아닌 객체로 남게 하여 우리의 인간성을 보전해야 한다. 특히 교육이 적응해야 한다.”

와. 요즘 학교 과제도 챗지피티로 작성해내서 교사들이 힘들다는 얘기를 들은 바 있어요. 교육계에도 새로운 고민꺼리를 안겨주겠네요

동료들이 많이 힘들어하긴 해요. 특히 에세이 숙제 많이 내주는 영어과목 가르치는 친구들이 고민하더라구요

앗 생각해보니... 저는 교사는 아니지만 학회에서 논문 심사를 종종 하는데.. 이것도 이제 챗GPT의 영향을 받겠군요..;; sci논문이어서 영어로 써야하는데..영어로 된 다른 논문 짜집기한건 딱 티가 나던데..;; 이건 어떨지..;;

챗지피티 한것도 티가 팍팍 날지 진짜 궁금하네요. 설령 티가 난다고 해도, 저자가 챗지피티 썼다고 입증할 방법도 없을 것 같아요.

모임 시작됐네요! 반갑습니다. ^^

@장맥주 새로운 AI는 모호한 지식을 누적한다. . 우리가 알지 못하는 프로세스... 지식을 확장하지만 이해를 확장하진 않는다. 와...AI가 경외로우면서도 무섭게 느껴집니다.

‘AI는 모호한 지식을 누적한다’는 이야기에 머리말에서부터 반해버렸습니다. 사실 AI 이야기에 웬 키신저? 이러면서 약간 미심쩍은 마음으로 책을 펼쳤더랬어요.

저도 키신저?에 의아했지만 아니나다를까 ’들어가며‘에서 처음엔 평소 관심없던 분야라고 키신저는 세션에서 빠지려고 했던 걸 슈밋이 종용한 거라고 하네요 ㅎㅎㅎ 저도 실은 키신저가 AI 담론에서 무슨 역할을 할지 호기심이 동했습니다

웬지 키신저가 당시 투덜대면서 슈밋을 따라 세션룸에 들어갔다가 나중에 토론하다보니 오오잉? 이렇게 중요한 사안이?하면서 토론에 뒤늦게 진지하게 임했을 것 같은 내용이 1장에서부터 대두되네요. 단순히 체스게임에서 관심받는 게 아니라 이게 나아가서 국가의 안보와 직결된 문제라면? 그 영향력도 연관된 사안들도 더 비중이 있어지죠. 안그래도 고전적인 deterrence theory (억제이론)들이 AI의 발전과 함께 어떻게 진화할 지 많은 정치사회 분야에서 주목받고 있고 존스홉킨스의 헨리키신저 센터에서도 이와 관련된 걸 작년 7월에 출판했답니다. https://mediahost.sais-jhu.edu/saismedia/media/web/files/kissinger/deterrence-through-ai-enabled-detection-attribution-v2.pdf 저도 아무래도 핵전쟁의 위협에 항상 고민하는 대한민국 국민으로서.. 이와 관련된 의문문들이 가장 와닿은 질문들이었어요. 여러가지 의문문 중 역시 아래 질문이 가장 걱정되더라구요. '혹시 AI가 내린 결정의 논리와 파급효과를 이해할 수 있다고 해도 라이벌 또한 AI에 의존한다면 어떻게 될까?' 실은 제가 AI가 발전하면 가장 빠르게 사라지지 않을까 하는 전문가 집단이어서 저희 과에서도 학회가 열릴 때마다 몇 세션들은 AI, 머신러닝과 관련된 세션들이 있고 저도 지인들도 AI를 이용한 검사방법을 응용하거나 연구에 deep learning neural network를 활용한 적이 많고 아직은 전문가의 confirm이 필요하지만 지금도 screening 단계에서 많이 적용되고 앞으로 더 늘어날 전망이지만 학회에서도 실제 연구에 적용할 때 가장 골치 아픈 문제점이 어떤 오류가 개입되거나 해서 생기는 AI의 '석연치 않은 선택'을 제때 탐지하거나 철회하기가 매우 힘들다는 점입니다. 그나마 영상의학과의 영상이나 병리과의 현미경 소견 등은 일일이 전문가의 역량에 따라 검토가 가능하고 아직은 AI 단일 판정으로만 의지하기에는 false positive가 좀 높은 편이라지만 만약 어마어마한 빅테이터를 토대로 계산된 결과라면 과연 그걸 제대로 걸러낼 수 있을 지 의문이 들거든요. 그래서 항상 전문가의 cross check 등이 필수적일 수 밖에 없는데.. 과연 우리의 국방 전문가들 (또는 적국의 국방 전문가들이) 얼마나 제대로 AI의 권고를 검토하고 확인할지.. 그리고 검토해도 결국 다른 쪽의 결론을 확신치 못해서 어떤 방향으로 결론이 틀어질지.. 진심으로 소름이 돋는 질문입니다.

억제이론과 군사적 의사결정에서의 AI 개입 문제 관련 내용이 흥미롭네요. 저는 오히려 키신저 '때문에' 책을 펼친 경우입니다. 국방이나 안보 분야에서의 AI 활용기술이 이미 많이 발달해있고, 제가 그 중 가장 우려하고 관심가지고 있는것이 '자율살상무기 Autonomous Weapons System(AWS) 또는 Lethal Autonomous Weapons(LAWS)' 의 규제 문제입니다. 우크라이나 전쟁을 포함 현재도 무인기 공격이 이루어지고 있는데, 목표를 탐지하고 조준하고 최종승인하는 데 있어 AI의 개입이 어느정도 허용되어야 하는가, 이러한 기술의 개발을 허용할 것인가부터 시작해서 국제법 분야에서 많이 이야기가 되고있으나 아직 구속력있는 협약은 없는 상태... 그리고 LAWS 같은 인공지능 무기(이런 정의는 없지만 이렇게 표현할 수 있다면)가 아무리 기술이 필요하다고 해도 핵탄두(!)나 핵잠수함(!!) 보다는 당연히 만들기 쉽고 저렴하며 감시도 쉽지 않기 때문에 테러단체나 소위 불량국가들이 손대기 쉽다는 문제도 있는것 같아요. 😞