AI 이후의 세계 함께 읽기 모임

장맥주

“ 생성형 AI를 만들 때 주로 사용되는 훈련 기법은 상호보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것이다. 이를 ‘생성형 적대 신경망(GAN, Generative Adversarial Networks)’이라고 부른다. GAN은 잠재적 출력을 생성하는 ‘생성망’과 조악한 출력의 생성을 막는 ‘판별망’으로 구성된다. 비유하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다. 훈련은 생성망과 판별망을 번갈아가며 진행된다. 생성망을 훈련할 때는 판별망을 고정하고, 판별망을 훈련할 때는 생성망을 고정한다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

수서동주민

저는 그림AI를 가끔 쓰는데요. 생성형AI의 기법이 두 신경망의 경쟁이라는걸 알고는 상상해보았어요. 마음대로 그림을 그리는 아이(생성망)와 그림들에 점수를 매기고 거르는 평가자(판별망)간의 무한대결이라니 ㅎㅎ

장맥주

AI도 나중에 조현병이나 해리성 인격장애 같은 걸 겪게 되지는 않을까요? 치안이나 국방 AI가 '정신 질환'을 앓으면? 복지 업무를 하는 AI가 우울장애에 빠지면? 이거 너무 터무니없는 상상인가요? ^^;;;

장맥주

“ 론 이 기법도 완벽하진 않다. GAN을 훈련하기가 쉽지 않고 조악한 결과가 많이 쏟아진다. 하지만 훈련만 잘되면 놀라운 결과가 나올 수 있다. 가장 흔히 사용되는 형태는 메일을 작성하거나 검색어를 입력할 때 자동으로 문장을 완성하는 AI다. 여기서 더 발전하면 대략적으로 작성된 코드를 세밀하게 완성하는 AI도 개발 가능하다. 다시 말해 조만간 프로그래머가 프로그램의 뼈대만 잡아놓으면 나머지는 AI가 알아서 완성하는 시대가 열릴 수 있다. ”

문장모음 보기

장맥주

“ 하지만 AI는 반추하지 못하고, 그러고 싶다는 윤리적 혹은 철학적 충동도 느끼지 않는다. 그저 제가 아는 기법을 이용해 결과를 산출할 뿐이고, 그 결과는 인간의 관점에서 봤을 때 시시하거나 충격적일 수 있고, 온건하거나 악의적일 수 있다. AI는 반추하지 못하므로 그 행동의 의의를 결정하는 것은 인간의 몫이다. 따라서 인간이 AI를 규제하고 관리해야 한다. AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다. ”

문장모음 보기

수서동주민

신고에 의해 숨겨진 대화입니다.

화제로 지정된 대화

수서동주민

[셋째 주-읽기 미션 1/2] 4월 28일까지 달성하기 "요즘 넷플릭스 볼 거 없던데?" 넷플릭스를 최근 구독 해지한 친구가 말했어요. 볼 게 없다니요. 현재 한국 넷플릭스에서 서비스되고 있는 콘텐츠의 총개수는 4,000여 개를 훌쩍 넘는걸요! 그런데도 그 친구는 왜 볼 것이 없다고 느꼈을까요? 저는 그 정답을 [4장. 글로벌 네트워크 플랫폼]에서 찾았습니다. '우리는 필수 정보나 유용한 정보를 선별하는 소프트웨어에 알게 모르게 의존한다. 이런 소프트웨어는 개인이 이전에 선택한 것과 대중이 선택한 것을 기준으로 뉴스, 영화, 음악을 선별한다.' 그 친구는 예능프로를 보느라고 한동안 넷플릭스보다 티빙에 더 많이 들어갔고, 결과적으로 넷플릭스는 사용자가 뭘 좋아하는지 알 수 있는 기회를 박탈당한 것이지요. 그러기에 추천 콘텐츠도 빈약할 수밖에 없었습니다. 제가 그동안 사용했던 플랫폼들을 생각하니 제4장을 읽으면서 "맞아. 맞아."라며 절로 고개가 끄덕여졌습니다. 그래서 이번 미션은… 4장. 글로벌 네트워크 플랫폼을 읽으며 공감되었던 문장을 1개씩 써보도록 해요!

장맥주

“ 즉, AI가 소기의 행동을 수행하는지 평가하는 절차가 반드시 수립돼야 한다. 당분간은 머신러닝이 대세로 유지될 전망이므로 인간은 여전히 AI가 무엇을 학습하고 어떻게 학습하는지 알 수 없을 것이다. 그렇다고 낙심할 필요는 없다. 인간의 학습도 그처럼 불투명할 때가 많기 때문이다. 예술가와 운동선수, 작가와 정비사, 부모와 자녀를 막론하고 모든 인간은 주로 직관에 따라 행동하기 때문에 무엇을 어떻게 배웠는지 똑똑히 말할 수 없을 때가 많다. 이런 불투명성을 해소하기 위해 각 사회는 수많은 전문가 인증 프로그램, 규제, 법을 만들었다. AI에도 비슷한 방식이 적용돼야 한다. ”

문장모음 보기

수서동주민

인간의 학습도 그처럼 불투명할 때가 많기 때문이다. 이 문장이 약간 소름 돋았어요. 정말로 AI는 인간에 가깝게(각 인간 개개인이 예측불가한 것처럼) 진화하고 있다는 점에서요.

장맥주

바둑의 경우가 좋은 사례가 될 거 같아요. 알파고 직전까지만 해도 바둑에는 인간의 직감이 필요하다고 했거든요. 바둑 전략을 설명하는 용어도 ‘두텁다’, ‘기세가 좋다’ 등 모호했습니다. 무엇을 배웠다고 명확하게 말할 수 없는 불투명성이 있었는데, AI가 그런 불투명성 속의 패턴을 깨쳤고 우리는 여전히 그게 뭔지 잘 모릅니다.

장맥주

“ 제품을 사전에 테스트하는 방식은 업계별로 천차만별이다. 앱 개발자들은 일반적으로 프로그램을 서둘러 출시한 후 결함이 발견될 때마다 신속히 수정하는 반면에, 항공기 제조사들은 철두철미한 테스트를 마치기 전까지 고객을 단 한 명도 항공기에 태우지 않는다. 이처럼 테스트 방식이 다른 이유는 여러 가지인데, 그중에서도 제일 중요한 요인은 업종별로 다른 기본적 위험도다. AI 보급률이 높아지면 그런 요인들(기본적 위험도, 규제, 시장 상황)에 따라 테스트 방식도 업계마다 달라질 것이다. 예를 들어 자동차를 운전하는 AI에는 틱톡 같은 엔터테인먼트 및 커뮤니케이션용 네트워크 플랫폼을 구동하는 AI보다 훨씬 강한 감독이 요구될 것이다. ”

문장모음 보기

장맥주

“ 물론 알고리즘을 고정한다고 해서 AI가 새로운 상황에 직면했을 때 예상치 못한 행동을 절대로 안 한다는 보장은 없지만 사전 테스트는 가능하다. 그리고 데이터세트 검수로도 AI의 품질을 검사할 수 있다. 예컨대 안면인식 AI가 다양한 데이터세트를 이용해 훈련되는지, 혹은 챗봇의 훈련용 데이터세트에 혐오발언이 포함되진 않았는지 확인함으로써 AI가 가동 단계에서 오작동할 가능성을 줄일 수 있다. ”

문장모음 보기

수서동주민

평가자가 AI의 생성물에 대한 피드백을 어떻게 하느냐에 따라서 결과가 크게 달라질 것 같네요. ㅎㅎAI의 병(?)을 최소화하려면 끝없이 양산되는 AI산출물에 대한 다면평가가 필수겠어요.

장맥주

“ 몇몇 네트워크 플랫폼은 서비스 국가에서 일상생활, 정치 논의, 상거래, 기업 운영은 물론이고 정부 행정에도 없어서는 안 되는 요소가 됐다. 네트워크 플랫폼이 제공하는 서비스는 얼마 전까지만 해도 존재하지 않았던 서비스를 포함해 순식간에 필수불가결한 서비스로 등극했다. 네트워크 플랫폼은 동일한 선례가 없었던 만큼 디지털시대 이전에 형성된 규칙과 규범에서 비켜난 측면이 존재한다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

“ 표면적으로는 대부분의 네트워크 플랫폼이 콘텐츠에 관해 중립적이라고 하지만, 어떤 상황에서는 커뮤니티 표준이 국가의 법만큼 강한 영향력을 발휘한다. 그래서 네트워크 플랫폼과 그 AI가 허용하거나 선호하는 콘텐츠는 순식간에 부상하고, 반대로 플랫폼과 AI가 원치 않거나 노골적으로 금지하는 콘텐츠는 묻힐 수 있다. 허위정보가 포함되는 등 표준을 위반한다고 판정된 콘텐츠는 대중에게로 유통이 사실상 차단된다. 최근에 이런 문제가 급속도로 부각한 이유는 네트워크 플랫폼이(그리고 그 AI가) 디지털 세상에서 지리적 한계를 뛰어넘어 급성장 중이기 때문이다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

“ AI 기반 네트워크 플랫폼이 탄생한 시기는 더욱 최근이다. 그 역사가 10년도 안 됐기에 이 기술을 심도 있게 논하는 데 필요한 기본적 어휘와 개념조차 아직 확립되지 않았고, 이 책의 목표도 바로 그런 빈틈을 메우는 데 기여하는 것이다. 물론 AI 기반 네트워크 플랫폼의 올바른 사업 방식과 그에 적용돼야 할 규제를 놓고 다양한 사람, 기업, 정당, 시민단체, 정부가 다양한 의견을 개진할 것이다. 소프트웨어 엔지니어에게는 자명해 보이는 이치가 정치 지도자에게는 황당하게, 철학자에게는 불가해하게 느껴질 수 있다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

borumis

“ 상업적, 기술적 대결에서 상대방을 완전히 타도하는 전면적 승리가 가능하다고 생각하면 오산이다. 그 대신 어떻게 하면 사회가 꾸준히 성공을 구가할지 생각해야 한다. 그러자면 냉전시대에 정치 지도자와 전략 입안자들이 생각하지 못했던 질문에 답해야 한다. 우월성은 어느 정도 선까지가 적당한가? 어느 시점부터 우월성이 성과에 미치는 영향이 무의미해지는가? 양측이 모든 역량을 최대로 발휘하는 위기 상황에서 열등성은 어느 정도 선까지 유효한가? ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장. 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

화제로 지정된 대화

수서동주민

[셋째 주-읽기 미션 2/2]4월 28일까지 달성하기 AI와 전쟁, 국가 안보 이야기만 가득할 줄 알았더니, 저자는 [5장. 안보와 세계질서]의 절반을 핵무기의 발전, 군비경쟁과 통제 이야기에 할애합니다. 왜 저자는 AI이야기에 앞서 '핵무기와 세계정세'를 꼭 되짚어야 했을까요? 어마어마한 파괴력을 지녔기에 주로 억지 및 협박수단으로 쓰였던 핵무기에 비해, 실체가 보이지 않으나 파장은 더 큰 AI무기시스템은 하루가 다르게 발전하며 실제 전쟁수단으로 쓰이고 있습니다. [5장. 안보와 세계질서]를 읽으며, 저자가 AI와 핵무기를 비교한 부분 중 인상깊은 문장을 1개씩 적어보아요!

borumis

“ 지금까지 군민 양용성, 확산성, 강력한 잠재적 파괴력을 모두 갖춘 기술은 없었다. (...) 원자력 기술은 대체로 군민 양용이고 가공할 파괴력을 만들어내지만, 복잡한 인프라가 요구되기 때문에 정부가 비교적 확실히 통제할 수 있다. (...) AI가 이 패러다임을 깨트린다. AI는 분명히 군민 양용이며 쉽게 확산된다. 기본적으로 컴퓨터 코드에 불과하기 때문이다. 대부분의 알고리즘은 단일한 컴퓨터나 소규모 네트워크에서 구동할 수 있기 때문에 정부가 인프라로 기술을 통제하기 어렵다. 그리고 AI는 막강한 잠재적 파괴력을 만들어낸다. 이처럼 세 가지 속성을 겸비한 이례적 기술이면서 수많은 이해관계자가 존재하기 때문에, AI는 전략적 차원에서 전에 없이 복잡한 고민거리를 만든다. ”

『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 헨리 A. 키신저 외 지음, 김고명 옮김

문장모음 보기

장맥주

한 문장을 고르기는 어려워서 세 문장으로 된 대목을 골랐습니다. 읽으면서 오, 그렇구나, 싶었어요. 「이런 사이버 무기의 특성 때문에 사이버 군비통제는 정의하거나 실행하기 어렵다. 핵무기의 위력은 핵 군비통제 협상단이 핵탄두의 존재와 성능을 공개하거나 설명해도 감쇄하지 않았다. 그러나 사이버 군비통제 협상단(아직 존재하지 않는다)은 사이버 무기의 전력을 논함으로써 그 무기가 무력화되거나(상대국이 이제껏 몰랐던 취약성을 해결) 확산될 수 있다는(상대국이 그 무기의 코드나 침투 수단을 복제) 딜레마를 해결해야 할 것이다.」

책 꽂기

문장 수집

사진 등록

작성

글타래

화제 모음

지정된 화제가 없습니다