너무 너무 감사합니다~♡
역시 가치가 기술을 이끈다는 거지요!!
이런 광범위한 논의는 어떻게 진행될지?? 아직은 폭염과 홍수라는 기후위기 속에서도 제대로된 논의가 힘들지만은요~~ㅜㅜ
그럼에도 그 중요성을 인지하고 항상 살펴야겠지요~ ^^
[도서 증정] <먼저 온 미래>(장강명) 저자, 편집자와 함께 읽어요!
D-29
8장 읽었습니다. “스튜디오 지브리의 애니메이션들을 둘러싼 내러티브가 바뀌고 스튜디오 지브리의 본질과 정체성도 바뀐다. 나는 이것이 훼손이라고 생각한다. 그에대한 깊은 불만을 담을 수 있는 개념 도구가 지금 저작권 정도 밖에 없는 것이다.”p.271
이 문장이 기억에 남습니다. 우리가 오랜 시간 걸쳐서 만들어 온 인간성을 AI가 한 번에 파괴시키는 예가 아니었나 생각합니다. 모두가 그렇듯, 우리가 오랜 시간을 투자해 만들어 온, 이루어 낸 것들에 대한 자부심, 성취감 등등을 모조리 삭제시켜버리는 점에서 우리가 AI를 경계하게 되는 것 같아요.
요즘 유튜브에 생성 AI로 (돌아가신 분들을 포함해) 유명 가수들의 목소리를 재현해 최신 유행하는 곡들의 커버 버전 영상들이 올라오지요. 가수나 소속사가 이보다 조금 더 나은 퀄리티로, 매일 수백 곡씩의 커버곡을 만들어 유통할 수도 있겠다는 생각이 드네요. 같은 방식으로 아예 신곡을 만들 수도 있겠고요. 그때 신인 가수를 발굴하고, 육성하고, 데뷔시키고, 신곡을 녹음할 '인센티브'는 현저히 줄어들 것 같습니다. 그냥 각자가 가장 좋아하는 가수가 부른 버전으로 들으면 될 테니까요.
“ 남치형 교수는 자기 제자가 바둑이 너무 좋아서 프로기사가 되겠다고 한다면 응원하겠다고 말했다.
“저만 그런 건지 모르겠지만, 누구나 어떤 일에서 당대 최고가 될 수 있는 게 아니잖아요. 제가 항상 최첨단에서 무언가를 할 수 있는 건 아니잖아요. 기계가 더 잘한다고 해서 왜 인간이 하면 안 되는 건지 모르겠어요.” ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 230-231쪽, 장강명 지음
문장모음 보기
“ 놀랍게도 재미가 무엇인지에 대한 이론적 연구는 굉장히 드물다. 2016년에 『재미란 무엇인가』라는 책을 낸 사회학자 벤 핀첨은 서문에서 “사전적 정의를 제외하면, 재미를 정의하거나 다른 사회적 경험과의 차이점을 설명한 글은 없다시피 하다”라고 썼다. 그에 따르면 “우리는 때때로 재미가 있거나 재미가 없다는 것을 빼고는 재미에 대해 아는 것이 별로 없다”.
현대 엔터테인먼트 산업의 거대한 규모를 생각하면 괴상한 일이다. 우리는 재미가 뭔지도 모르면서 그걸 만들어 내기 위해 엄청난 노력을 한다. 재미보다 더 큰 개념인 가치에 대해서도 마찬가지다. 가치 있는 일을 하고 싶다고, 가치 있는 삶을 살고 싶다고 말하면서도 우리는 가치가 뭔지 잘 모른다. 그래서 가치의 훼손에 대해 말하면서도 정확히 무엇이 훼손되는 건지 잘 파악하지 못한다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 235쪽, 장강명 지음
문장모음 보기
“ 바둑이 예술에서 스포츠가 될 때 프로기사들은 절대적 탁월함이라는 목표를 포기하게 된다. 바둑이 승부에서 팬덤 비즈니스로 변한다면 기사들에게 상대적 탁월함이라는 목표조차 흐릿해질 것이다. 상대적 탁월함 경쟁에서 밀려나 있는 하위권 기사들은 시간과 노력이라는 자신의 자원을 어디에 쓸지 고민하게 된다. 그 자원을 바둑 실력을 키우는 데 써야 할까, 아니면 자신의 숨은 스타성을 보여줄 기회를 잡는 데 써야 할까. 어느 쪽이 현명할까. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 258-259쪽, 장강명 지음
문장모음 보기
“ 그런데 나는 다른 질문을 던져보려 한다. 지금 중요한 질문은 ‘AI 시대에 애니메이션 회사는 어떻게 행동해야 하는가’ 혹은 ‘AI 시대에 소설가는 어떻게 살아야 하는가’가 아닌 것 같다.
애니메이션 회사가 앞으로 어떻게 행동해야 하는가를 왜 AI 회사가 좌지우지하는가?
프로기사가 추구해야 하는 삶의 방식을 AI 회사가 함부로 규정해도 되나?
문학작품을 읽고 쓰는 방식을 인공지능이 멋대로 바꿔도 되나? ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 271쪽, 장강명 지음
문장모음 보기
8장을 읽고나니, 이 책이 AI 시대, 4차 산업혁명이라는 이름으로 떠들썩한 이 시대에 중요한 화두를 던지고 있다는 느낌이 확 체감됩니다. 9장을 기대하며 펼쳐 봅니다.
어떤 고통은 삶에서 제거해야 하는 얼룩이 아니다. 그 고통은 삶의 일부이며, 우리 삶은 순백이 아니다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 298쪽, 장강명 지음
문장모음 보기
“ 나는 현대의 사상가를 기다린다. 똑똑한 사람들이 실리콘밸리로 몰려가지 말고, 이 문제에 도전했으면 좋겠다. 그런 활동을 사회가 지원했으면 좋겠다. 우리는 인문학판 맨해튼 프로젝트를 벌여야 한다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 339쪽, 장강명 지음
문장모음 보기
내 생각에는 인공지능이 아직 할 수 없고 인간만이 할 수 있는 일은 따로 있다. 좋은 상상을 하는 것, 우리가 미래를 바꿀 수 있다고 믿는 것, 그렇게 미래를 바꾸는 것이다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 340쪽, 장강명 지음
문장모음 보기
완독했습니다. 진부한 비유이지만, 가슴에 뜨거운 것이 차오르는 느낌을 받았습니다. 책을 읽은 직후인 현재로서는 가장 솔직한 심정입니다. 저는 2년 전, 공대 4학년 재학 중에 장강명 작가님의 STS SF 창작 워크숍을 들으며 소설가의 꿈을 키우고 있었습니다. 그 뒤로 좀 더 소설을 써보고 싶었고 그래서 곧바로 취업하는 대신 문예창작과 대학원에 진학하는 것을 택했습니다.
워크숍에서 배운 것처럼, 과학기술이 우리 사회의 어떤 가치를 변질시키는지 연구하며 좋은 소설을 쓰겠다는 원대한 목표를 가지고 입학했지만, 세 번의 학기를 거치며 현실의 벽에 번번이 가로막혔습니다. 올해는 등단에만 혈안이 되어 방향과 목적은 잊어버리고, 지난 일 년 반을 허송세월했다는 무기력감에 빠진 채 여름을 맞이했습니다. 그런 저에게 『먼저 온 미래』는 초심을 되찾게 해준 책입니다. 특히 10장에서 가치가 기술을 이끌어야 한다는 말, 인문학이 새로운 가치와 서사를 만들어내어야 한다는 말은 제가 잊고 있었던 방향과 목적을 재조정해 주었습니다.
10장을 읽으며 요즘 공부하고 있는 21세기 철학의 새로운 흐름 중 하나인 ‘실재론자’들의 주장이 떠오르기도 했습니다. 퀑탱 메이야수(사변적 실재론), 그레이엄 하먼(객체지향존재론), 마르쿠스 가브리엘(새로운 실재론) 등이 이 흐름 한가운데에 있는 철학자들입니다.(그레이엄 하먼은 ebs <위대한 수업>에 출연해서 인공지능과 예술에 관해 말하기도 했습니다) 이들은 계몽주의에 뿌리를 두고 20세기를 지배해온 관념론, 포스트모던으로 대표되는 주류 철학에 반기를 들었습니다. 포스트모던 이후의 시대가 ‘넓이’를 얻은 대신 ‘높이’를 잃어버렸다고 규정하며, 각각의 방법은 조금씩 다르지만 실재론을 새로운 철학으로 복권시키고자 노력하고 있습니다.(이에 관한 좋은 입문서가 일본의 철학자 이와우치 쇼타로가 쓴 『새로운 철학 교과서』입니다)
어쩌면 이들의 움직임이 인문학판 맨해튼 프로젝트의 시작일지도 모르겠습니다. 가치가 기술을 이끌도록 새로운 가치를 생산하고, 미래를 바꾸어가는 현대의 사상가가 필요하다는 『먼저 온 미래』의 주장에 동의합니다. 저는 인문학의 길을 걷고 있지만 러다이트 운동을 벌이는 사람은 아닙니다. 검색할 때 구글보다 퍼플렉시티를 자주 사용하고, 익숙하지 않은 엑셀 작업은 챗GPT에게 맡깁니다. 하지만 실용주의에서 벗어나, 『먼저 온 미래』와 함께 좋은 상상을 시작하는 일로 한 걸음 떼어야겠다는 생각이 듭니다. 우리가 무엇을 놓치고 있는지, 앞으로 어디를 바라보아야 하는지, 방향을 제시하는 책은 언제나 좋은 것 같습니다. 잘 읽었습니다.
새로운 철학 교과서 - 현대 실재론 입문저자인 이와우치 쇼타로는 1987년생으로 와세다대학 국제커뮤니케이션 연구과 박사 과정을 마치고, 현재는 와세다대학, 도쿄 가정대학, 다이쇼대학 등에서 강의하고 있는 일본의 신진기예의 철학자이다. 이 책은 저자의 최초의 저작이다.
사변적 실재론 입문사변적 실재론은 현재 대륙철학에서 가장 영향력 있는 새로운 조류이다. 사변적 실재론의 최초 구성원 중 한 명이 쓴 이 책은 내부자만이 들려줄 수 있는 통찰과 세부사항들로 가득 차 있으며, 사변적 실재론 입문자에게 최적화된 상세하고 친절한 개론서이다.
예술과 객체객체지향 존재론의 창시자 그레이엄 하먼은 미학이 철학의 중심 분야라는 자신의 견해를 펼친다. 과학은 어떤 객체를 그것의 관측 가능한 성질들을 통해서 파악하려고 시도하기 마련이지만, 철학과 예술은 해당 객체에 직접 접근 할 수 없기에 이런 식으로 나아갈 수 없다.
책장 바로가기
<먼저 온 미래>을 읽고 방향과 목적을 재조정하셨다니 너무나 뿌듯합니다. 충분한 주목을 받지 못했을 뿐, 여러 학계의 연구자들이 AI 이후의 가치 변질을 연구하고 있으리라 믿습니다. @지호림 님이 쓰실 STS SF 기대됩니다.
완독 했습니다. 9, 10장은 앞장들과 목소리의 톤이 다르네요. 기술의 발전이 인간을 이롭게 하는 방향으로 흘러왔는가에 대한 물음이 무겁게 다가옵니다. 가치가 기술을 이끌어야 한다는 주장에 공감이 됩니다. 인류 역사를 돌아보면 그게 가능할 지는 모르겠지만요.
기술 발전이 참 빠르다고 느낍니다. ChatGPT가 신기해서 이런저런 대화를 했던 게 불과 3년 전인데 사람들은 이미 LLM 기술을 신기하게 여기지 않습니다. 사람들은 이전에는 쉽사리 가능할 거라고 상상하지 못했던 도구를 쓰면서 현재 이 기술에 얼마나 한계가 많은 지를 근거로 앞으로의 변화를 과소평가 합니다. 저는 사람들이 인공지능의 한계를 논하는 걸 볼 때마다 인공지능이 일상에 자리 잡았다는 것을 체감합니다. 좀 있으면 또 다른 ChatGPT 모먼트가 오겠죠. 뒤쳐지고 싶지 않다는 생각에 열심히 새로운 것들을 쫓아가려고 하는데, 이런 생각 때문인지 몰라도 갈 수록 마음의 여유가 줄어드는 듯합니다.
경제 뉴스를 읽으면 인공지능 업계는 이미 다음 단계인 AGI나 휴머노이드 개발에 집중하고 있음을 알 수 있습니다. 아마 각 빅테크 기업에서 전략을 기획하는 위치에 있는 사람들은 한 단계 더 나아간 미래를 논의하고 있겠죠. 휴머노이드가 돌아다니는 세상을 떠올리면 이제 정말 격변이 얼마 안 남았다는 생각이 듭니다. 보통 인공지능이나 휴머노이드를 다룬 기사를 읽으면 일자리와 관련된 위협을 이야기하는데, 저는 휴머노이드를 가진 기업이 얼마나 많은 권한을 갖게 될 지를 생각합니다. 그들은 정말로 하나의 국가가 되지 않을까요? 휴머노이드를 생산할 수 있는 기업이 마음만 먹으면 자신들이 생산한 로봇의 손에 총을 쥐어줄 수 있다는 점을 상상한다면 제가 너무 앞서 나간 것일까요?
기술이 무한정 뻗어나가기만 하지 않도록 속도를 제어할 수단이 필요하다는 데 공감합니다. 암울하게도 방법은 모르겠습니다. 빅테크 기업들이 이미 제어할 수 없는 대상처럼 보여서 말입니다. 국가의 경계를 넘어 활동하는 기업들이라 법 적용이 쉽지 않고, 기업 수뇌부는 로비를 해서라도 우회 수단을 마련하겠죠. 기후 위기에 대응하는 글로벌 협력 과정을 지켜봐서 그런지, 국가를 초월한 형태의 기술 통제가 가능할 지도 의심이 듭니다. 각국의 정치 상황을 지켜볼 수록 다수가 모여 한 뜻으로 제재력을 발휘하는 상황이 꿈처럼 여겨집니다. 제재를 가하는 게 맞느냐에 대한 논란도 치열하겠죠. 속도 제한에 공감하는 저만 해도 생성형 AI 기술이 어디까지 갈 수 있는지 보고자 하는 마음이 공존하니까요.
그렇다고 될 대로 되라고 놔둘 수는 없겠죠. 이 자리에서 간단히 결론을 내릴 수는 없고 앞으로 계속 고민해 나가야 할 문제일 겁니다. 어떻게든 인류가 좋은 방법을 찾으면 좋겠는데, 이런 말은 책에서 언급된 것처럼 미래에 맡겨두자는 미루기 식 결론이 되는 것 같아 부끄럽네요.
좋은 글 한 편을 읽은 느낌입니다. 乃
어렴풋이 생각하고 있긴 했지만, 킨토님 글을 읽으며 역시 '자본'이 문제이자 관건인 것 같다는 심증이 굳어가네요...
“ 빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어 낸다. ”
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.286, 장강명 지음
문장모음 보기
나는 가치가 기술을 이끌기를 바란다. 가치 있는 기술은 그런 맥락에서만 나온다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.302, 장강명 지음
문장모음 보기
CCTV 확대를 반대하는 이들에게 빅브라더라는 개념과 '1984'는 가장 큰 무기였다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.319, 장강명 지음
문장 모음 보기
인문학의 중요성을 강조하는 주장 중에 가장 와 닿는 예시였습니다. 어떤 개념하나가 우리가 잘못된 방향으로 가지 않도록 방지해 준다는 것, 하나의 아이디어가 그만한 힘을 가지고 있다는 것. (쓰다 보니 하나의 아이디어가 인류사를 잘못된 방향으로 이끈 사례도 떠오르긴 하지만요)
우리는 인문학판 맨해튼 프로젝트를 벌여야 한다.
『먼저 온 미래 - AI 이후의 세계를 경험한 사람들』 p.339, 장강명 지음
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다