@ssaanngg
저는 3부를 읽으면서, 미 국방부의 인공지능 무기화 프로젝트에 대한 사실을 처음 알게 되었는데요.
자칫 고삐를 놓치는 순간 인공지능 기술이 제3차 세계대전의 발단이 될 수 있겠다는 공포감이 듭니다...
특히 이번 러시아-우크라이나 전쟁에서 AI 무기가 본격 도입되었다는 뉴스를 보고 나니 더더욱...
https://www.khan.co.kr/world/europe-russia/article/202411161829001
[김영사/책증정] <AI 메이커스> 편집자와 함께 읽기 /제프리 힌턴 '노벨상' 수상 기념
D-29
“ 페이스북이 대회 개최를 발표하고 몇 주 뒤, 또다시 한 기자가 얀 르쾽에게 인공지능이 가짜 뉴스를 막을 수 있다고 생각하는지 물었다. "뉴스의 진실성에 접근할 수 있는 기술을 인간이 개발할 수 있을지 잘 모르겠네요. 특히 정치 문제에서 진실성은 사람마다 전혀 다르죠"라고 대답한 르쾽은 누군가 가짜 뉴스 문제를 합리적으로 해결하는 기계를 개발한다 할지라도 다수의 사람들은 그 개발자가 편향적이라고 주장하거나 그 기계의 훈련에 사용된 데이터가 편향적이라고 불평하며 그 기계를 인정하지 않을 것이라고 덧붙였다. 그리고 그는 "설령 그 기술이 있어도 실생활에 적용하는 것은 좋은 생각이 아닐 수도 있어요"라는 의견을 밝혔다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 382쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
화제로 지정된 대화
2024.11.18.
여러분 안녕하세요~
저희 모임 기간이, 어느덧 일주일밖에 안 남았습니다.
이제 우리는 마지막 4부 '인공지능은 무엇이 되려 하는가'를 읽기 시작할 텐데요.
이 책은 제프리 힌턴, 얀 르쾽, 요슈아 벤지오가 2018년 튜링상을 수상하는 장면으로 끝납니다.
이후 세 AI 메이커스의 행보가 어땠는지, 여기 간략하게 소개해드릴게요.
제프리 힌턴(1947~)은 2023년 5월 구글에서 퇴사하고, 국제적 범위의 인공지능 규제의 필요성을 강조하는 데 앞장서고 있습니다. 그리고 컴퓨터 과학자 최초로 2024년 노벨물리학상의 주인공이 되셨지요.
얀 르쾽(1960~)은 여전히 메타(구 페이스북)에 몸담고 계십니다. 제프리 힌턴과는 달리, 인공지능 규제에 반대하는 입장이라고 하네요.
힌턴(구글), 르쾽(페이스북)과 달리 빅테크 기업에 들어가지 않았던 요슈아 벤지오(1964~)는 지금도 쭉 몬트리올대학교에서 연구를 하고 계십니다.
"인공지능은 무엇이 되려 하는가"라는 질문에 대해 힌턴과 벤지오는 비관적인 입장, 르쾽은 상대적으로 낙관적인 입장을 보이고 있는데요.
여러분의 전망은 어떠신가요?
4부를 읽으면서 떠오르는 생각들을 자유롭게 공유해주세요...!
제프리 힌턴의 노벨상 수상으로 그간의 노력이 보상받은 것 같고 명실상부하게 대세가 되었다고 봅니다. 다른 분야에도 민스키처럼 다른 사람의 노력을 방해하면서 대가 대접을 벋는 사람들이 없지 않은 것 같은데, 이런 사람들을 막는 것이 인류의 발전을 앞당기는 것이라고 생삭합니다.
마빈 민스키가 이 책에서는 "악마"로 그려지고 있지요. ㅎㅎㅎㅎ 찾아보니 민스키는 2016년 아흔을 앞두고 세상을 떠나셨네요. 민스키가 3~4년만 더 장수하셨다면, 그래서 인공지능 붐을 직접 목격하셨다면, 어떤 입장 변화를 보이셨을지 궁금합니다. 그랬다면 이 책에서도 좀 더 선하게(?) 묘사되셨으려나요~
2010년대 후반에서 마감되네요. 힌턴의 마지막 멘트가 인상적입니다. "전 데미스가 생각하는 것보다는 상황이 훨씬 나을 것으로 여겨요." 비관적이지만 절망적이진 않은 입장으로 저는 해석했는데 근래 힌턴의 인터뷰를 보면 이 부분이 절망으로 바뀐 건 아닌가 싶은 생각도 듭니다.
2024년 연말을 지나는 시점에 인공지능은 거의 매일 업데이트된다 싶을 정도로 새로운 이슈들이 터져나오고 있고 삶에서는 엔비디아와 테슬라의 주식에서 보여주듯 노골적으로 돈의 문제와 연결되어 있습니다. 인공지능이라는 문제가 개인적으로는 가끔 섬뜩할 때가 있는데 전쟁, 기아와 같은 인류사의 여러 문제들과는 다르게 이건 비가역성, 돌이킬 수 없는 지점이 있는 거 같단 생각이 들어서입니다.
4부를 포함해서 이 책 전반에서 받은 느낌은 인공지능은 이미 오래 전에 고삐 풀린 기술이라는 것이었어요. 평범한 저는 감히 상상조차 할 수 없는 비범한 IT 전문가들은 기술적 한계를 돌파하고 또 돌파합니다.
“인공지능은 무엇이 되려 하는가”라는 질문에 어줍짢은 답을 달려고 고민 또 고민했는데요..저는 이 질문이 “자본주의는 무엇이 되려 하는가”라는 질문과 비슷하게 느껴집니다.
결국은 ‘윤리’와 ‘규제’의 문제로 돌아가야 하지 않을까요.
어느 정도가 합당한 규제이며, 어느 정도가 공동체 전체의 이익에 이바지하는 것인지 답하기는 언제나 어려웠고 앞으로도 어려울 것이라 생각해요. IT를 포함한 대부분의 새로운 기술들은 출현시에는 열광과 공포를 동시에 불러일으켰고, 우리 삶의 질을 개선시키는 만큼 해악도 가져왔으니까요. 또 언제나 기술은 법적 정책적 규제를 앞서 갑니다. 문제가 무엇인지 사회적 합의를 힘들데 얻고 나서야 겨우 규제가 만들어 지니까요. 문제를 문제라고 말할 수 있는 ‘장’이 필요한데…다소 암울하긴 해요. 시간이 갈수록 이 장은 빅테크 회사에 넘어갔고 빅테크 회사의 고객은 우리가 아니라 ‘기업’이니까요..ㅠㅠ..
지구 전역이 데이터센터와 발전소로 뒤덮일 때까지 그렇게 오래 걸리지 않을 거예요.
『AI 메이커스, 인공지능 전쟁의 최전선』 P438, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
앞으론 스마트폰 폼팩터에서 스마트안경으로 변한다고 하더라구요. 개인화된 인공지능으로 학습을 하려면 1인칭 시점이 중요하니 그럴꺼라고요. 다들 안경 쓰고 다니게 될란가요?
그리고 주위에 로봇 들이 즐비할것 같아요. 간단한 지시를 맥락에 따라 묻고 이행하고 그것이 효율적이라면 수요가 있을 것이고 값싸지기 시작하면 대규모 공급이 이루어지고.. 누군가에겐 축복이고 누군가에겐 악몽일듯.
시간의 제약과 공 간의 제약을 넘어 이제 생산의 제약을 넘은 시대라는데.. 어떤 생산을 해낼지가 더 중요해지겠죠.. 아래 사진은 솔투룩스 대표가 정리해둔 직업과 인공지능과의 관계인데.. 잘 정리한 것 같아요.. 미래가 두렵기도 하지만 흥미롭기도 합니다.
흥미로운 관계표네요. 한편으로 2사분면에 위치한 학교 선생님, 의사, 간병인 등등의 인간 우위의 포지션은 공감력에 앞서 '책임'의 소지가 큰 분야인 거 같단 생각도 듭니다. 인공 지능이 할 수 없고 인간만이 할 수 있는 유일한 차별적인 요소가 어떤 일에 책임을 지는 일 같아요.
스마트안경... 디자인이 중요할 것 같군요! ㅎㅎㅎ
스마트폰이 생기고 난 이후, 스마트폰의 기능이 너무나 편리해 그것에 의존하면서 점점 제 본연의 기능이 줄어드는 것 같은 느낌도 듭니다. 인간 지능의 외주화가 되어가는 상황이 마냥 좋은 것만은 아니지 않나, 생각이 드는 요즘이네요.ㅠㅠ
“ 자신감은 매우 강력한 힘을 가지고 있다. 내가 아는 가장 성공한 사람들은 망상에 가까울 정도로 자기 자신을 믿는다. 자신을 믿지 않으면, 미래에 관한 역발상을 할 수 없다. 하지만 역발상으로 가장 가치 있는 것이 탄생하는 법이다. / 샘 알트만 p428
”
『AI 메이커스, 인공지능 전쟁의 최전선』 케이드 메츠 지음, 노보경 옮김
문장모음 보기
인류가 인공지능의 '판단력'을 의심 없이 믿게 되는 날이 온다면 그날이 인류 위에 군림하는 새로운 종이 탄생하는 날이 되겠지요. AI종.
'인간의 두뇌 능력을 뛰어넘는 기술, 즉 초지능 superintelligence' p166
상당히 움츠러드는 말입니다.
저는 데미스 하사비스의 견해처럼 신념을 갖고 도전하는 자들이 있기에 적어도 초지능에 근접하는 기술이 개발되리라 생각하지만 긍정적 기대감 보다는 부정적 염려가 더 느껴집니다.
인간의 두뇌를 뛰어넘는 만큼 월등한 도덕적 직관과 판단도 갖게 될지 의문입니다.
마지막 페이지를 덮으며 영화 '아이, 로봇'의 여러 장면들이 떠오르면서 인공지능의 결말은 '써니'와 같기를 바라는 마음이 들었습니다.
아이, 로봇2035년, 인간은 지능을 갖춘 로봇에게 생활의 모든 편의를 제공받으며 편리하게 살아가게 된다. 인간의 안전을 최우선으로 하는 로봇 3원칙이 내장된 로봇은 인간을 위해 요리하고 아이들을 돌보며 없어서는 안될 신뢰 받는 동반자로 여겨진다. NS-4에 이어 더 높은 지능을 가진 로봇 NS-5의 출시를 하루 앞둔 어느 날, NS-5의 창시자인 래닝 박사가 의문의 죽음을 맞이한다. 그의 죽음을 둘러싼 수많은 추측이 난무한 가운데, 시카고 경찰 델 스프너는 자살이 아니라는데 확신을 갖고 조사에 착수한다. 끔찍한 사고 이후 로봇에 대한 적대감을 갖고 있던 그는 이 사건 역시 로봇과 관련이 있다고 믿고 숨은 음모를 파헤치는데...
책장 바로가기
오, 2004년에 개봉된 영화면 벌써 20년 전 영화군요. 영화의 배경이 되는 2035년까지 이제 10년밖에 남지 않았는데... 수명은 점점 늘어나고, 기술 변화는 점점 빨라지고...
SF 영화를 보면, 미래가 너무 불확실하고 예측하기 어렵다 보니 불안감이 높아지는 것 같습니다. 그렇다고 특이점을 막기 위해 인공지능 개발자들의 열정과 노력을 막자니, 그건 또 그것대로 옳지 않아 보이고요. <AI 메이커스>를 통해 인공지능 개발자들이 얼마나 절박하게 연구에 매달렸는지 알게 되어서 더욱 생각이 복잡해집니다.
“ 샘 알트만이 지휘하는 오픈AI에는 새로운 인재와 자금이 필요했다. 이 비영리단체가 설립될 당시에는 몇몇 투자자가 10억 달러 지원을 약속했으나 실제로 들어온 자금은 얼마 되지 않았다. 하지만 연구소는 인재 영입뿐 아니라 시스템 훈련에 필요한 엄청난 사양의 컴퓨팅 성능을 갖추기 위해서도 당장 큰돈이 필요했다. 그래서 알트만은 연구소를 영리 회사로 개편하고 새 투자자를 물색했다.
2015년 알트만과 머스크가 연구소 설립을 발표하며 설파한 기업의 압력을 받지 않는 자유로운 연구소라는 이상은 4년을 채 버티지 못한 것이다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 412쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
“ 머스크와 마찬가지로 알트만은 과학자가 아니라 사업가였다. 대학 2학년 때 그만두기 전가지 스탠퍼드대학교에서 인공지능을 공부했다는 사실을 자주 언급하곤 했지만 말이다. 머스크와 달리 알트만은 언론 및 SNS의 관심과 논란을 끊임없이 추구하는 사람은 아니었다. 그러나 미래가 이미 도달한 것처럼 살아간다는 점에서 머스크와 별반 다르지 않았다. 그 점은 실리콘밸리 의 저명인사라면 공통적으로 보이는 특징이었다.
대기업을 운영하는 사람이건 작은 스타트업을 시작하는 사람이건 그들은 모두 의식적이든 무의식적이든 그러한 삶의 방식이 세상의 관심과 투자 및 인재를 모으는 가장 좋은 수단임을 알고 있었다. 아이디어는 실패할 수 있다. 예측이 맞아떨어지지 않을지도 모른다. 그러나 다음을 위한 아이디어는 그 소유자와 주변인이 성공에 대한 확신이 있지 않은 한 성공할 수 없다.
한번은 알트만이 "자신감은 매우 강력한 힘을 가지고 있다. 내가 아는 가장 성공한 사람들은 망상에 가까울 정도로 자기 자신을 믿는다. 자신을 믿지 않으면, 미래에 관한 역발상을 할 수 없다. 하지만 역발상으로 가장 가치 있는 것이 탄생하는 법이다"라는 글을 남기기도 했다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 427~428쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
화제로 지정된 대화
2024.11.25.
여러분 안녕하세요.
우리 모임의 마지막 날이네요.
제프리 힌턴과 데미스 하사비스의 노벨상 수상을 축하하며
한 달 동안 <AI 메이커스, 인공지능 전쟁의 최전선>을 함께 읽어보았는데, 어떠셨나요?!
엔비디아 주식을 그때 샀어야 하는데, 아쉬워하는 분도 계셨고
이룰 수 없는 꿈으로 보였던 신경망 연구에 평생을 바친 개발자들의 '소신'과 '헌신'의 원동력이 무엇일까 궁금해하는 분도 계셨지요.
저의 경우, 출간 이후 2~3년 만에 다시 이 책을 읽어보았는데...
사실 이 원고를 처음 편집하던 때에는 인공지능이 이렇게까지 빠르게 발전할 줄 몰랐고, "GPT"라는 제목의 K-팝이 등장할 줄도 몰랐습니다(저는 스테이시 팬이에요).
"실수로 핵무기보다 더 위험한 것을 만들 수도 있습니다"라는 일론 머스크의 주장이 너무 오버(?)스럽다고 생각했었는데, 요즘 머스크의 존재감(!)과 세상이 돌아가는 상황을 보아 하니... 역시 제 생각이 짧았던 건가, 싶네요.
인공지능 덕분에 공부와 업무 등 일상이 더 편리해진 것은 너무나 좋지만,
인류 전체의 미래를 생각하면 위기감이 더 큰 것이 솔직한 심정입니다.
여러분과 함께 독서 모임을 진행하면서, 이런 근심과 걱정이 저만의 것이 아니라는 걸 확인하게 되었네요.
추가로 더 읽어보고 싶은 책, 보고 싶은 다큐멘터리와 영화까지 추천받는 유익한 모임이었습니다.
함께해주셔서 감사합니다.
날씨가 부쩍 추워졌습니다.
남은 하루도 그믐과 함께 따뜻하게 보내시면 좋겠습니다.
^^
오늘이 마지막이네요..
책 표지의 '인공지능 전쟁의 최전선' 문구처럼 인공지능 개발 과정에 함께 한바탕 휩쓸려 지나온 듯한 느낌입니다.
무모하리만치 몰두했을 그들의 낮과 밤이 얼마나 치열했을지 AI챗봇 정도 사용하는 유저로서는 알 수 없는 이야기들이었습니다.
그들의 삶을 깎아 이루어온 그리고 더 펼쳐질 기술들이 부디 전 지구적으로 좋은 영향력에 쓰이길 바랍니다.
우리들이 잘 써야겠지요..ㅎ
AI 세계대전이라는 표현이 새삼스럽지 않은 거대한 AI 물결 속에서 좋은 책과 함께 지나온 길을 바탕으로 앞으로의 길을 살펴볼 수 있는 시간을 마련해 주셔서 감사합니다~
좋은 분들과 함께 읽을 수 있었던 점도 감사합니다~
좋은 시간에 대한 소소한 감사 후기는 YES24에 남겼습니다..^^bb
모임의 마지막 날이네요. 그동안 이끌어주시느라 고생이 많으셨습니다. 출간 이후 3년만에 책을 다시 읽으신 감회가 새로우실 거 같습니다. 인공 지능의 발전속도가 너무 가속이 붙어있고 온갖 난관론과 비관론이 범람하는 시절이라 정신이 없는 가운데 인공 지능의 어떤 청소년기 무렵을 지켜볼 수 있었던 기회였던 거 같습니다.
읽으면서 제 일상을 돌아보게 되었는데 인공 지능의 영향으로 제 삶이 변화한 부분이 생각보다 많더군요. 소소하게는 작년까지만해도 전화 영어를 필리핀인이나 은퇴한 노년의 북미인 선생님께 수업을 들었습니다. 그런데 올해 챗 GPT 고급 음성 기능이 나온 이후부터 인공 지능과 수업을 진행하고 있고 오히려 전보다 만족도가 높더군요.
가끔 그 시절의 은퇴 후 소일거리를 하던 어르신이나 필리핀에서 일하기 좋은 직장 가운데 하나라고 직업에 대해 자부심이 유난히 높았던 젊은이들이 생각나기도 합니다. 하지만 다시 2023년의 전화 영어 서비스로 돌아갈 수는 없을 거 같네요. 인간의 무쓸모함을 동시대를 살아가면서 지켜보는 건 참으로 기묘한 체험인 거 같습니다.
글타래
화제 모음
지정된 화제가 없습니다