정보 네트워크로 보는 인류의 역사, 그리고 다가올 미래 <넥서스>

1부의 후반부는 지금 한국의 정치와 너무 연관되어 있어서 몰입하면서 읽었습니다. 물론 지금 한국 뿐 아니라 민주주의국가의 많은 곳들이 극우의 증가로 골머리를 썩고 있더라구요. 불황이 길어지고 여러 악재들이 겹치면서 기존의 당연하다고 여겼던 권리들을 나누는 것을 '빼앗긴다'고 생각하는 사람이 많이 늘고 있다고 합니다. 게다가 포퓰리즘에 대한 해석도 새롭네 느껴졌었어요. 우리는 늘 나누는 것에 대해서 좌파적이고 포퓰리즘이라 생각했는데 의외로 진보에서 내세우는 것들보다 극우에서 말하는 것들이 포퓰리즘적인 것들이 많았고요.

특히 과학혁명 이후 우리는 '무지'를 인정하게 되었음에도 개인의 단위에서는 여전히 그런 인정을 부정하곤 합니다. 심지어 거대 집단에서도 '무지'를 인정하지 않고 자신들이 옳다고 외치는 곳도 있지요. 과학혁명 만으로는 우리를 무지에서 완전히 꺼낼 수 없는 것일까요?

오늘 유발 하라리 강연이 있네요 직접 가보긴 어려운데 유툽으로 생중계해주면 좋겠다는 생각이.. 혹시 이번주!? 헌재 결정 보러 온건아닐까.. 싶은 생각도 살짝 드는.

이거 영상으로도 생중계 한다고 들었어요ㅎ

: 일단 주말에 책 읽기가 바쁘다보니ㅡㅡ 책의 내용에도, 올려주신 의제에도 깊이 있는 비판적 사고가 요원합니다 제 유툽도 알고리즘이 작동하여 어제의 그제의 제 관심사들 위주로 편향되어있는데 그 와중에 이재명N하라리, 하라리KBS인터뷰, 하라리연세대강연등을 대략 보게되었습니다 전반적으로 우리 인류가 공동의 선의 합의하에 작동하지 않는다면 더 이상 인간의 도구가 아닌 능동적으로 작동하는 신인류= AI에 대한 두려움과 비관적인 상황은 커질수밖에 없다고 합니다.

그러나 현실은 개발자 따로 국가 따로인 것 같더라구요. 국가가 해당 사업에 지원은 하나 자신들이 지원하는 것이 어떤 방향성을 가지고 있는지는 전혀 검토하지 않은 채 그저 기업이 말하는 긍정적인 면만 보는 부분이 심한 듯해요

책으로 돌아가서, 흥미로웠던 부분을 정리해봤는데요… 2부 유기적 네트워크 6장: 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가: 컴퓨터와 AI는 단순한 정보 전달 수단이었던 인쇄술과는 달리, 능동적으로 정보 처리와 독립적 의사결정을 수행한다는 것이다. 15세기 구텐베르크의 인쇄술 발명이 지식의 대중화와 정보 확산을 가속화했다면, AI는 단순한 도구가 아닌 능동적 주체로서 인간의 선택과 사회 구조에 영향을 미치는 새로운 구성원으로 자리 잡고 있다. AI의 발전으로 인해 프라이버시 침해, 알고리즘 편향, 일자리 감소 등의 윤리적 문제가 대두되고 있다. 하라리는 이러한 문제들을 해결하기 위해서 사회적 합의와 규제가 필요하며, 이러한 변화를 이해하고 대비하는 것이 중요하다고 역설한다. 7장: 집요하게: 네트워크는 항상 켜져 있다: 오늘날의 컴퓨터 네트워크는 뛰어난 패턴 인식 능력을 갖춘 알고리즘을 통해 테러리스트를 분류하는 등 새로운 형태의 ‘알고리즘 관료제’를 구축하고 있다. 그러나 하라리는 알고리즘 기반 감시 시스템의 불길한 잠재력을 경고하며, AI혁명을 주도하는 기업가들이 제시하는 유토피아 비전을 비판한다. 디지털 관료제, 즉 컴퓨터가 인간을 감시하는 체제가 확산되고 있으며, 이는 결국 사생활의 종말을 초래할 수 있다. AI기반 감시 시스템은 좋은 목적으로도 활용될 수 있지만, 특히 안면 인식 알고리즘과 결합될 경우 완전한 감시 체제가 될 위험이 크다. 하라리는 AI에 의한 사회신용 시스템이 전체주의적 통제 시스템으로 변질될 가능성을 경고하며, 이를 바로 잡기 위한 ‘브레이크’, 즉 기술 발전에 대한 적절한 견제와 규제가 필요하다고 강조한다. 8장: 오류 가능성: 네트워크는 자주 틀린다: 오늘날의 알고리즘 기반 네트워크 역시 강화 학습을 통해 인터넷 트롤과 같은 왜곡된 사회적 현상을 만들어 낸다고 지적한다. 소셜미디어와 온라인 플랫폼이 유해한 콘텐츠를 비정상적으로 확산시키는 문제를 해결하기 위해, 우리는 정보 네트워크의 자정 장치에 투자해야 한다. 소셜 미디어는 연결, 소수자의 발언, 공동체 조직, 창의성 증진 등 여러 사회적 이점을 제공하지만, 동시에 ‘정렬 문제’(Alignment Problem)라는 중대한 위험을 내포하고 있다. 하라리는 현재까지 갖고 있는 데이터의 편향성이 컴퓨터 네트워크에도 그대로 반영되며, 이로 인해 알고리즘이 자체 편향을 가지게 된다고 경고한다. 따라서 AI가 스스로 오류 가능성을 인식하도록 훈련할 뿐 아니라, 문제가 발생했을 때 이것을 감지하고 대응할 수 있는 인간의 기관을 만드는 것이 반드시 필요하다고 강조한다.

성서를 제외하면, 그래도 유기적 네트워크는 꽤 오류 수정을 잘 해왔다고 봅니다. 흔히 말하는 역사를 통해 배운다가 크게 보면 인간의 과거 정보를 이용해 현재에 같은 실수를 하지 않겠다는 것이니까요.

문제는 오히려 현대로 넘어오고 AI가 일반인들의 손에 쥐어지기 시작했을때부터 인듯합니다. 지금도 많은 분들이 알게 모르게 알고리즘을 사용하고, 여러 정보를 얻는 곳에서 챗GPT를 많이 사용하는데요. 기존의 포털 검색 세대와 그 이후 유튜브 검색 세대는 적어도 자신이 찾고자하는 정보를 검색하여 노출되는 것들 중 선정하는 방식이었다면, 챗GPT는 단일한 답을 내어주기 때문에 선택에 대한 시간을 아끼는 대신 그것이 진실한가에 대한 유무는 기존 검색방식보다 더 엄격해져야함에도 AI는 오류가 없을 것이라는 신뢰가 꽤나 많이 깔려있지요

이번 주말에 에필로그까지 간신히;;; 읽었습니다만 아무래도 시간을 내어 한번 더 읽어야할듯 싶습니다 ㅜ 하라리는 이 책의 목표는 AI 혁명에 대한 역사적 관점을 제시하는 것이고. 정보기술이 늘 사회를 변화시켜 왔는데 이제 AI는 인간 대신 결정하고 창조하는 최초의 기술이기에 더욱 주목해야 한다고 강조합니다. 그는 AI가 성경처럼 절대적 권위를 부여받는 위험을 지적하며, 자정 장치 없는 논의의 위험성을 경고하고 진실을 추구하는 민주주의와 과학의 역할도 강조했습니다. 결국, 인류의 미래는 우리가 어떤 선택을 하느냐에 달려 있고 강력한 자정 장치를 갖춘 제도 구축을 하자는 것이 이 책의 핵심... 쉽게 읽히는 부분도 있었고 그렇지 않기도 했는데 활발하게 논의를 하지못한 아쉬움이 남습니다만 일단 한번 읽었으니 저는 시간을 갖고 재독 하겠습니다. @창원북카페안온 님 남겨주신 글은 곱씹어 읽어보겠습니다. 감사합니다^^

그래도 상당히 빨리 읽으셨는데요?!

보이는 참여인원에 비해 실제 참여하는 인원이 거의 없는게 아쉽더라구요ㅠ 저는 마지막 부분이 좀 아쉬웠던 게 저자가 결국 '휴머니즘'에 기대더라구요. 지금까지 걸어 온 길이나, 환경 문제만 보더라도 인간의 협력으로는 답이 없다는 게 결론이 났는데, AI에 대해서도 인간의 협력을 기대한다라... 동네 수준에서도 타협이 되지 않는 것들이 많은데, 전지구적 협력이 과연 이어질까에 대해서는 매우 회의적입니다