AI 이후의 세계 함께 읽기 모임

억제이론과 군사적 의사결정에서의 AI 개입 문제 관련 내용이 흥미롭네요. 저는 오히려 키신저 '때문에' 책을 펼친 경우입니다. 국방이나 안보 분야에서의 AI 활용기술이 이미 많이 발달해있고, 제가 그 중 가장 우려하고 관심가지고 있는것이 '자율살상무기 Autonomous Weapons System(AWS) 또는 Lethal Autonomous Weapons(LAWS)' 의 규제 문제입니다. 우크라이나 전쟁을 포함 현재도 무인기 공격이 이루어지고 있는데, 목표를 탐지하고 조준하고 최종승인하는 데 있어 AI의 개입이 어느정도 허용되어야 하는가, 이러한 기술의 개발을 허용할 것인가부터 시작해서 국제법 분야에서 많이 이야기가 되고있으나 아직 구속력있는 협약은 없는 상태... 그리고 LAWS 같은 인공지능 무기(이런 정의는 없지만 이렇게 표현할 수 있다면)가 아무리 기술이 필요하다고 해도 핵탄두(!)나 핵잠수함(!!) 보다는 당연히 만들기 쉽고 저렴하며 감시도 쉽지 않기 때문에 테러단체나 소위 불량국가들이 손대기 쉽다는 문제도 있는것 같아요. 😞

@모시모시 @borumis 키신저가 이 책 집필에 참여했을 때는 90대 후반이었을 텐데 그 자체만으로도 대단하다 싶습니다. 그 나이에 세상 가장 핫한 논의에 의견을 내고 사람들이 생각을 궁금해하는 인물이 몇이나 되려나요.

그쵸.. 생명공학도 인지과학도 실은 인류적으로 큰 영향력을 가진 기술들인데 기술의 발전속도와 여파에 비해 이걸 제대로 분석하지도 않고 너무 무방비하게 아무런 규제도 방침도 없는 상태 같아요.

그렇게 스카이넷이 탄생하고... ^^ 생각해보니 AI 기술이 널리 보급되고 저렴해지면 스카이넷을 불량 국가나 테러단체가 만들 수도 있겠네요. 오싹합니다.

와. 보루미스님 코멘트를 여러 번 읽었어요. AI에 직접적으로 영향받는 과에 계시는군요!!! 아무래도 AI는 빅데이터와 통계에 의존하는 만큼 데이터 편향적인 결과를 피하긴 어려울 것 같아요. AI가 발전하는 만큼 전문가들의 역량이 중해지는 시기네요

흑흑.. 가장 위협을 받아면서도 도움을 받는 과이기도 합니다;;;

저도 '혹시 AI가 내린 결정의 논리와 파급효과를 이해할 수 있다고 해도 라이벌 또한 AI에 의존한다면 어떻게 될까?' 이 문장을 읽고 제2의 냉전시대가 올 수도 있겠다라는 생각이 들었습니다. 그때야 미소 두 국가였지만 지금은 판이 더 커질 것 같네요...

앗 저도 이 문장.. 머리가 띵해지는 질문이었던 것 같아요

앗 저도 밑줄쫙 긋고싶던 문장입니다.

전 더 멀어지고 있다고 생각이 들더라구요. 사람들이 너무 쉽게 지식을 습득하는 것이 아닐까? ai가 주는 정보가 진실일까? 이런 저런 생각을 들게하는 문장이었습니다^^. 제 생각입니다만 저자도 ai가 주는 정보와 지식에 진실성에 대한 식별을 중요하게 생각하는 것 같았습니다. 특히, 체스나 바둑 같은 경우에도 AI의 뛰어남이 보였지만 창작분야 (예술)의 경우 더 크게 영향을 줄 것 같기도 합니다. 사실, 거의 대부분의 사람들이 창작분야의 경우에는 AI가 침범하지 못할 것이라는 의견이 대다수였죠. 하지만, 모든 시대의 화가의 기법들에 대한 데이터들을 AI에게 주고 이 기법들을 제외하고 그림을 그리라고 했더니, 완전히 새로운 그림을 그려냈다고 들었습니다. 딥아트, 프리즈마 같은 AI화가들도 존재할 뿐만 아니라 실제로 그림을 그리고 팔고 있습니다. 저는 AI가 그린 그림이 그림일까? 라는 근본적인 의문이 생깁니다. 같은 맥락으로 저한테는 AI가 주는 지식과 정보가 뭔가 공허한 느낌이네요.