AI 이후의 세계 함께 읽기 모임

장맥주

“ 냉전 이후 현재는 강대국을 포함해 많은 나라가 사이버 무기로 전력을 강화했다. 사이버 무기는 그 존재와 사용 여부를 은폐하고 부인할 수 있으며, 경우에 따라서는 허위정보 유포, 첩보, 파괴 공작, 전통적 분쟁 사이에 존재하는 모호한 경계선상에서 사용할 수 있다는 점이 강점이다. 즉, 독트린을 명시하지 않고 전략을 수립할 수 있다. 하지만 기술이 발전하면 허점도 생기기 마련이다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

“ AI의 시대에는 가뜩이나 복잡한 현대 전략의 셈법이 인간의 의도를 넘어서는 수준으로, 어쩌면 인간의 이해를 넘어서는 수준으로 복잡해질 수 있다. 설령 각국이 인간의 승인 없이 스스로 목표물을 정하고 타격하도록 훈련받고 권한을 부여받은 자동/반자동 AI 무기, 이른바 치명적자율무기LAWs의 확산을 금지한다고 해도, AI로 인해 재래식 무기, 핵무기, 사이버 무기가 강화되어 경쟁국 간에 안보 위기와 분쟁을 예측하고 방지하기가 더 어려워질 가능성이 상존한다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

“ 미국은 잠시 핵을 독점했던 시기(1945~1949)나 한동안 월등한 핵무기 발사 체계를 보유했던 시기에도, 제2차 세계대전 이후 실제 분쟁에서 핵무기 사용을 가능케 하는 전략적 독트린이나 도덕 원칙을 마련하지 못했다. 그 후로 핵 강대국들이 상호 동의하는 독트린의 제한선이 명확히 존재하지 않았기 때문에, 정책 결정자들은 핵무기의 ‘제한적’ 사용 이후 무슨 일이 일어날지, 제한적 사용이 전면적 사용으로 격화되진 않을지 확신할 수 없었다. 지금껏 그처럼 합의된 제한선을 확립하려는 시도 자체가 없었다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

화제로 지정된 대화

수서동주민

[넷째 주-읽기 미션 1/2]5월 5일까지 달성하기 이 책을 읽는 마지막 주가 되었네요!! [6장. 인간의 정체성]에서 흥미롭게 읽은 구절을 하나씩 적어보면서 가뿐하게 월요일을 시작해 보아요.

수서동주민

지금 '디지털 네이티브'와 이전 세대의 간극이 존재하듯이 'AI 네이티브'와 이전 세대의 간극이 벌어질 전망이다.

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

모시모시

저도 여기 밑줄그었어요. 위기감이 느껴지는....

모시모시

“ AI가 개개인의 오랜 신념을 확증하는 ‘뉴스’만 선별해서 보여주거나 오래전에 사망한 배우가 ‘출연’하는 영화를 만드는 등 정보와 오락 콘텐츠가 개인화되고 실감나게 합성된다면, 한 사회의 구성원들이 과연 그 사회의 역사와 현재를 공통되게 인식할 수 있을까? ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

“ 강력한 사이버 억지력을 확보하려면 구체적으로 어떤 행위를 억지할지 정하고 그 성공도를 측정할 수 있어야 한다. 지금까지 크게 성공한 사이버 공격은 대부분 종래의 무력 충돌보다 낮은 수위에서 발생했다(그리고 대부분 즉각 인지되지 않았고 공식적으로 공격을 인정하는 국가가 없었다). 정부 조직과 비정부 조직을 막론하고 사이버 영역의 강자들은 지금까지 자신들의 전력이나 행위를 완전히 공개한 적이 없다. 타자의 행동을 억지하려고 할 때도 기껏해야 부분적으로 정보를 공개할 뿐이다. 그래서 새로운 기술이 속속 등장하는 와중에 전략과 독트린은 음지에서 모호하게 발전 중이다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

수서동주민

여기서 말하는 독트린은 어떤 문장이 될까요? 인류에게 직접적 살상은 가하지 않지만, 그 외의 방법으로 적국에게 영향을 준다. 뭐 이런게 될까요? 제가 이해한 게 맞나요? 넘 어려워요...

borumis

https://www.techtarget.com/searchsecurity/tip/How-to-craft-a-generative-AI-security-policy-that-works '음지'에서 발전 중이고 국가 보안 관련 자료는 직접 보기 힘들겠지만.. 벌써 AGI의 문제가 대두되며 각종 AI관련 프레임워크 및 규정들이 세워지고 있는 상황입니다. ISO/IEC 22989:2022 -- Information technology: Artificial intelligence: Artificial intelligence concepts and terminology. ISO/IEC 23053:2022 -- Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML). ISO/IEC 23984:2023 -- Information technology: Artificial intelligence: Guidance on risk management. ISO/IEC 42001:2023 -- Information technology: Artificial intelligence: Management system. NIST developed the Artificial Intelligence Risk Management Framework, an essential document for organizations developing and deploying secure, trustworthy AI. 이외에도 미국의 National AI Regulatory Commission 문서등 https://docs.google.com/document/d/1CkfB2V34k0dx0EHC63C-u0ig-64BHEKo1LgErwhd7LM/edit

모시모시

책을 읽다보면 계속 "공론의 장을 마련해야된다.", "체계를 수립해야된다", "각계각층이 모두 참여해서 논의해야된다" 등등 숙제만 많이 나와서 답답해요. borumis님이 찾아주신것처럼 국가 차원이나 국제기구 차원에서 노력하고 있는것도 있을텐데, 대부분 합의하고 있는 것은 무엇이고, 구체적으로 어떤점이 왜 쟁점이 되고있는지, 어떤 나라가 무슨 주장을 하면서 갈등하고 읺는지 등을 알 수 있도록 책에서 알려주었으면 더 좋았을것 같거든요. 사실 자율살상무기LAWS만해도 유엔에서 이야기하고 전문가그룹 만들고 한게 10년 전 부터인데, 뭐가 합의되었고 왜때문에(!) 진전이 없는건지... 좀 더 파고드는 내용이 있었다면 덜 추상적이고 더 재미있었을 것 같아요. https://disarmament.unoda.org/timeline-of-laws-in-the-ccw/

borumis

그쵸 저도 너무 원론적인 얘기만 나와서 그게 많이 아쉬웠어요!!

장맥주

5장을 다 읽고 나면 생각의 단초라도 떠오르지 않을까 싶었는데, 그렇지는 않았습니다. 책이 어려운 게 아니라 책이 던지는 질문들이 참 어렵네요. 사이버 무기에 대해서도, 외교 분야에도 문외한이라 더 그렇습니다. 지금 ‘음지에서 모호하게 발전하는 독트린’은 어떤 모양을 취하고 있을지도 궁금합니다. ‘인터넷에는 국경이 없으므로 여론 조작이 의심되고 우리 국가의 이익과 관련이 된다면 어디에든 적극 개입한다’ 같은 내용도 들어 있을까요? (저도 제가 이해하는 게 맞는지 모르겠습니다.)

장맥주

“ 하지만 가장 어려운 문제는 철학적 문제일지 모른다. 전략의 여러 요소가 AI만 접근할 수 있는 개념과 분석의 영역에서 작용하면 인간은 그 원리를, 그 파급력을, 그 의미를 이해하지 못한다. 정책 결정자들이 적대국(역시 AI를 동원할 수 있는)의 전력과 의도를 파악해서 적시에 대응하고자 AI로 현실의 심오한 패턴을 규명해야만 한다고 판단한다면, 중대한 결정을 기계에 위임하는 행위가 당연시될 수 있다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

이런 전망 진짜 무섭습니다. 쉽게 부정하지도 못하겠고요.

수서동주민

중대한 결정을 기계에 위임하는 행위-->전쟁상황까지는 상상을 못하겠지만, 이미 AI를 믿고 의지하는 단계가 일상에서 시작된 것 같아요. 빠른노선찾기, 자율주행자동차 등 인간보다 AI에 의사결정을 맡겨버리는 상황이 떠올랐어요.

모시모시

동감입니다. 저는 책을 읽으면서 "AI에 이의를 제기할 수 있는 능력" 이 개인적인 화두로 떠오르고있어요. 많은 부분에서 AI에게 사고를 외주화 할수록 AI의 결과물을 필터링할 수 있는 능력(필터링이 가능하도록 하는 시스템이 있다는 전제하에;;)이 필요할 것 같은데 어떻게 그런 능력을 구비할 수 있을까... 많은 생각이 듭니다. AI시대에 전문 직업인으로서 살아남기 위해 실질적으로 필요한 요건이라 생각됩니다. AI가 할 수 있는 일을 하는것으로는 미래 직업시장에서 의미있게 살아남을 수 없을거 같아요...

모시모시

“ 이제 세계는 또다시 원대한 실험에 돌입했다. 이전에 인간 교사가 맡았던 다양한 역할을 수행하는 기계, 하지만 인간의 감수성·통찰력·감정은 없는 기계가 아이들과 공존하는 시대로 나아가기 시작했다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

모시모시

AI 시대를 살아갈 어린 아이를 키우고 있어서 그런지 양육과 교육 관련 부문에 눈길이 가더라구요. 제 세대는 AI가 노동에 미치는 영향의 직격탄을 맞을 것 같고(아직 은퇴하려면 멀었는데 제발 천천히 바뀌어줘... 사실 벌써 적응하기 힘들어...), 제 자녀 세대는 AI 교육의 실험체가 되는건가... 하는 생각이..

borumis

전 실은 은퇴하고 제 직업을 관두면 어떤 일을 해볼까 생각했는데 그게 거의 다 AI로 대체될 가능성이 높더라구요. (특히 통번역가..ㅋㅋㅋ) 근데 그 중 그나마 제일 늦게 대체될 게 돌봄 직업이었습니다. 이런 고민을 하기 시작하는;;

책 꽂기

문장 수집

사진 등록

작성

글타래

화제 모음

지정된 화제가 없습니다