인공지능과 인간이 협력하는 시스템이 너무 깊숙히 들어와 버렸다. 어쩌면 협력이 아니라 인간이 부속품으로 전략할는지도 모른다.
협력과 지배는 다르다. 분명히!
협력으로 보다 나은 공동체를 지향하도록, 변치않고 끝까지 지킬 수 있는 것은 인간의 몫이 아닐까하는 생각을 해봅니다.
[도서 증정] <먼저 온 미래>(장강명) 저자, 편집자와 함께 읽어요!
D-29
읽으면서 작가님은 어떻게 이런 생각을 하셨을까 궁금해졌습니다. 구성과 글의 흐름이 모두 새롭습니다. 기자 경험을 살린 취재력이 빛나기도 하고요...
“ 결국 바둑계에서 사용해 온 '기풍'이라는 단어는 현실 세계의 특정한 현상에 대한 모호한 비유였다. 따지고 보면 '성격'이나 '철학'이라는 단어 역시 그렇다. 인간은 그런 개념어와 비유에 기대어 세계를 파악한다. 언어는 도구다. 그 도구에 기대지 않는 인공지능이 언어라는 도구에 기대야만 하는 인간들보다 더 훌륭하게 과제들을 수행할 때, 언어에는 균열이 생긴다. 우리는 '그 말이 무슨 뜻이냐'를 비로소 제대로 묻게 된다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.127, 장강명 지음
문장모음 보기
“ 한국 바둑계가 1990년대부터 2000년대까지 예술과 스포츠 사이에서 갈팡질팡한 과정을 돌아보며 몇 가지 통찰을 얻을 수 있다. 예술과 스포츠라는 개념, 그리고 둘 사이의 경계는 모호하다거나, 어떤 행위의 성격을 정의하는 일은 다음 세대의 가치관을 규정하는 일이 된다거나, 혹은 야구 선수 미키 찰스 맨틀의 말처럼 "당신은 평생 해온 게임에 대해 믿을 수 없을 정도로 모른다"라는 사실을 깨달을 수도 있겠다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.173, 장강명 지음
문장모음 보기
단순히 '위대한 작품을 쓴 주체가 인간이 아니다'라는 점이 문제가 아니다. 그보다는 '위대한 작품이 24시간 동안 288편 나왔다'라는 상황이 문제다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 1장 3%, 장강명 지음
문장모음 보기
늦게 참여하여 1장부터 한 두 문장 씩 수집하는 것에 대해 양해를 구합니다.
처음 책을 읽으며 '쿵'했던 문장입니다.언젠가 읽을 만한 작품을 순식간에 쏟아진다면 작가님 말씀처럼 그걸 다 읽을 수나 있겠나, 위대한 작품의 의미가 남겠나 하는 생각입니다. 그런데 알파고 이후 바둑계에 나타났군요.
“ "알파고는 굉장히 창의적이었죠. 기존에 없던 수법 수십 가지를 5일 동안 보여줬으니까요. 그런데 지금은 알파고의 바둑을 봐도 창의적이라고 느끼지는 않아요. 인간 기사들이 인공지능의 수법을 빠르게 흡수했으니까요. 인간 천재도 사람들이 기존에 못 보던 스타일을 더 높은 수준으로 구현할 때, 그 순간에 굉장히 창의적이라고 할 수 있을 거 같아요. 그런데 계속 그 수법이 새로워 보일 수는 없잖아요." ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 2장. 12%, 장강명 지음
문장모음 보기
“ "알파고가 나오기 전의 기보와 지금의 기보는 완전히 다릅니다. 예전 기보는 역사적인 가치 외에는 없는 거예요. 인공지능의 기보가 내용상으로 훨씬 더 위거든요. 인공지능의 기보를 보면서 '이건 이렇게 둬야 되는 구나, 여기서는 이렇게 둬야 되는구나'배워냐 하는 거예요. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들 』 3장 16%, 장강명 지음
문장모음 보기
“ "과거 대부분의 기사는 일정 한계에 이르면 헤쳐 갈 방도가 없다는 생각에 승부를 포기했다. 하지만 하나부터 열까지 의문을 해소해 주는 AI가 '가정교사'로 들어오면서 '반상 민주화'가 실현됐다. 하위권 기사들의 승부욕이 살아나자 어떤 승부도 결과를 예단할 수 없게 됐다." ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 4장 26%, 장강명 지음
문장모음 보기
그런 의미에서 나는 초인공지능이나 강인공지능뿐 아니라 약인공지능도 사회에 어마어마한 영향을 미칠 거라고 본다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 5장 36%, 장강명 지음
문장모음 보기
최근 이 문제에 대해 관심을 갖고 있습니다. 인공지능이 블랙박스 현상으로 어떤 과정을 거쳐 결과를 도출했는지 모르는 채 내놓은 결과물이 누구나의 목표가 될 때 사회가 어떻게 변할지는 상상하기 어렵습니다. 이는 텍스트 대신 영상을 보고 자란 아이들, 숙제를 챗지피티로 하며 자라는 아이들이 아날로그 시대를 거친 저의 세대와는 다른 사회를 만들 거란 막연한 두려움과도 연결되는 것 같습니다.
저는 작가님이 블랙박스라는 표현을 비유적으로 사용하신 줄 알았는데 @ssun 님 덕분에 이런 현상을 나타내는 '블랙박스 현상'이라는 용어가 있음을 알게 되었습니다. 또 이에 대응하는 '설명 가능한 인공지능(Explainable AI, XAI)이라는 개념도 있군요! 블랙박스 현상을 해결하는 과정에서 인간 전문가의 역할이 중요해질 수도 있겠습니다.
네, 챗GPT 처음 나왔을 때부터 블랙박스 현상을 없애기 위해 XAI가 만들어져야 한다고 했어요. 그런데 이게 효율성의 문제라. .인간의 '의지'와 공학적인 문제가 큽니다.
“ "어린 시절, 바둑은 예술과 같은 것으로 배웠다. 바둑은 둘이 만드는 하나의 작품이라고 생각하는데 이게 무슨 작품이 되겠나, 내가 배웠던 예술 그 자체가 무너져 버렸다. '더 이상은 하기 쉽지 않겠구나'라는 생각이 들었다." ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 6장 40% (이세돌 9단의 은퇴 사유), 장강명 지음
문장모음 보기
현대 자본주의 사회에서 많은 사람을 자극하는 인센티브는 수익성 강화다. 인공지능은 수익성 강화의 도구로 널리 보급될 것이다. 많은 경우 이것은 대중성 강화를 의미한다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 6장 46%, 장강명 지음
문장모음 보기
작가님 말씀대 로 '훌륭한 소설'의 정의가 바뀌며 현대소설은 아방가르드가 대세인 장르가 될 수도 있겠네요. 인공지능이 할 수 없는 무엇인가를 찾기 위해 새로운 것을 찾는 사람들이 작가로 남는 미래를 상상해 봅니다. 그런데 그 또한 인공지능이 기존의 데이터를 더 많이 가졌기에 전혀 새로운 것, 혹은 새롭다고 느껴지는 것을 더 잘 찾을 수 있을지도...아직은 기술의 방향을 조금 더 지켜봐야 할 것 같습니다.
“ 안성문 기자는 "전에는 프로기사들이 성적이 나빠도 다 먹고 살았지만 지금은 아주 극단적으로 배고파졌어요."라고 말했다.(중략)
2000년대 들어 선진국에서는 중산층이 붕괴되는 현상이 일어났고, 그 큰 원인은 세계화와 자동화로 인한 중산층 일자리 감소였다. (중략) AI시대에는 이런 현상이 더 큰 규모로 일어날 가능성이 크다. 그런 위기를 맞닥뜨린 지금, 기본소득이나 로봇세는 시급히 논의해야 하는 아이디어라고 생각한다. (중략) 인공지능이 사람들의 일에 미칠 영향은 그보다 훨씬 거대하다. 인공지능은 우리가 가치 있다고 생각하는 일에 의문을 제기하고, 그 가치를 없애 버린다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 7장 59%, 장강명 지음
문장모음 보기
경험을 통해 얻을 수 있는 암묵지조차 인공지능이 더 빨리 습득하고, 인공지능에 의해 모호성이 (인류가 원하는 방향이건 아니건) 명확해지는 사회에서 미리 변화를 준비해야 한다는 데 동의합니다. 기계화로 산업혁명이 일어나던 시기보다 더 큰 변화가 일어날 것이므로 단순히 어떤 직종이 없어질 거라는 예측만 내놓을 때는 지난 것 같습니다.
인공지능이 등장한 후 바둑 해설 방송에 어떤 변화가 생겼는지 읽고, AI가 사회에 침투하고 방식이 참 다양함을 느낍니다. AI가 분석한 승리 확률과 추천 수를 화면에 표시하게 되면서 해설가의 입지가 줄어들었고, 해설가는 어쩔 수 없이 인공지능의 분석 결과를 살펴보자는 식으로 대처할 수 밖에 없다는 이야기는 곧 우리 모두의 미래가 되지 않을까 싶어서 애처롭게 느껴집니다.
바둑 방송 시청자 입장에서는 숫자로 표시되는 확률 값이 스포츠 경기의 점수처럼 보여서 경기 상황을 더 명확하게 인지할 수 있다는 점도 재밌습니다. 이로써 바둑의 스포츠 적인 면을 살릴 수 있다는 부분은 생각하지 못했던 결과네요. 그럼에도 불구하고 장기적으로는 모두가 AI의 기보를 따라하게 돼서 바둑 경기가 단조롭게 변하고, 바둑에 대한 흥미가 떨어질 거라는 예상에 공감이 됩니다.
AI 때문에 방구석 전문가가 대폭 늘었다는 이야기를 읽으면서 웃었습니다. 프로기사 입장에서 참 보기 싫은 광경이겠다 싶습니다.
아직은 해설자들이 '인공지능은 이런 수를 추천하지만 인간으로서는 상상하기 어려운 수다, 아마도 여기(기존의 상식에 부합하는 수)를 둘 것이다'라는 식으로 해설을 하곤 합니다. 또 연륜이 있는 선배 기사가 후배 기사는 잘 모를 과거의 알파고 이전의 정석을 두며 실수를 유도하기도 하고요^^ 그런데 처음부터 AI 정석을 배운, AI의 감각을 체화한 다음 세대의 기사가 나온다면 그런 모습도 거의 사라지겠지요. 지금도 신진서 9단의 대국 해설을 듣다 보면 '그 자리를 찾네요...'라는 탄식이 종종 흘러나옵니다.
글타래
화제 모음
지정된 화제가 없습니다