'연결'을 의미 있는 미덕으로 보다보니 FOMO(fear of missing out)도 생기는 것 같아요. 타인의 인정에 목매여서 상대적 박탈감이나 자존감 문제도 생기구요.
AI 이후의 세계 함께 읽기 모임
D-29
제가 남말 할 처지는 아닌데요... ^^ 일종의 안 좋은 자기가축화라고 할 수도 있지 않을까 하는 생각이에요. 알고리즘이 인간의 약점을 너무 잘 파악하고 악용하는 거 같습니다.
어찌 보면 이렇게 악용되는 인간의 약점 또한 기대하지 못한 생각하지도 못했던 체스 전략처럼 '놀라운' 발견이 아닐까요? 저도 실은 악용될 가능성이 높다고 비관적으로 보는 편인데 이 한계를 제대로 파악하고 검증할 수 있으면 오히려 AI의 편향된 데이터가 결국 인간의 편향을 반영하였듯이 우리가 못 감지했던 편향을 밝혀내는 것에 기여할 수도 있을 것 같아요. AI의 한계를 통해 우리 학습의 피상성이나 예측 기전의 한계 또한 발견할 수 있을 것 같구요.
이번 장에서 AI의 한계에서 가장 인상적이었던 것은 AI가 반추 (SELF-REFLECT)하는 능력이 없고 자의식이 없어 자기가 모르는 것을 모른다는 (앗 소크라테스가 생각나는?) 것이었는데요. 인간은 그게 가능하니 이런 한계를 역으로 우리의 학습 및 사고방식을 더 나은 방향으로 개선하는 데 쓰일 수도 있다는 생각이 들었어요. 어쩌면 '감정은 어떻게 만들어지는가'에서 개념들을 재구축하는 것과 같이 우리의 사고의 오류나 편향 등을 발견하는 데, 그리고 나아가서 그런 우리들 안의 경험 및 감정 개념들의 데이터베이스를 재구축하는 데도 활용될 수 있지 않을까 생각해봤어요.
역설적인 이야기인데, AI 덕분에 인간이 자기가 어떤 방식으로 생각하는지, 자신들이 하던 생각에 어떤 빈틈이나 편향이 있었는지 성찰하게 되었네요. 저는 ‘반추’ 혹은 ‘반성’ 역시 부정확하고 인간적인 언어 아닐까, 알고리듬의 언어로 달리 표현하게 되는 날이 오지 않을까 하는 생각도 듭니다. 정기적으로 과거 자신의 결과물들을 살피며 새로운 방식으로 시뮬레이션해서 더 효율적이고 더 나은 결과물이 나오는지 알아보는 인공지능도 이론적으로 불가능할 거 같지 않네요.
알고리즘의 언어를 상상해보았어요. ㅎㅎ 가까운 미래에 복기, 대조, 평가 등 AI의 반성（反省）프로세스를 아우르는 신종 단어가 나올 듯 하네요.
반성이라는 단어가 인간적인 단어라는 것에 극히 공감합니다
AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ AI를 활용할 때 우리가 그 오류를 이해해야 하는 이유는 AI를 용서하기 위해서가 아니라 교정하기 위해서다. 편향성은 인간 사회의 모든 측면에 존재하고, 우리는 그 모든 면에서 진지하게 대응해야 한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 이 같은 ‘학습’ 능력의 토대는 입력(예: 게임의 규칙, 그 규칙에 의거해 각 수의 우수성을 측정한 값)을 반복 가능한 출력(예: 게임 승리)으로 변환하는 알고리즘이다. 하지만 머신러닝 알고리즘은 고전적 알고리즘의 정밀성과 예측가능성에서 탈피했다. 고전적 알고리즘은 정밀한 결과를 도출하는 절차인 반면에, 머신러닝 알고리즘은 비정밀한 결과를 개선하는 절차다. 그런 알고리즘이 눈부신 발전을 이룩하고 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 미국 국방고등연구계획국(DARPA)의 알파도그파이트(AlphaDogfight) 프로젝트에서는 AI 전투기 조종사가 모의전에서 인간 조종사를 능가하는 비행술을 선보였다. 전투기만 아니라 배달용 드론에도 활용되는 만큼 앞으로 AI가 군대와 민간에서 항공의 미래에 지대한 영향을 미칠 전망이다. 혁신이 막 시작됐을 뿐인데도 이미 인간의 경험이 미묘하게 달라졌다. 앞으로는 이런 추세가 더욱 가속될 것이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 그러다 1990년대에 돌파구가 마련됐다. AI의 핵심은 작업을 수행하는 것, 더 자세히 말하자면 복잡한 문제를 효과적으로 해결할 방법을 찾고 실행하는 것이다. 그래서 연구자들은 기존과 달리 기계가 스스로 학습하는 방식이 필요하다고 판단했다. 다시 말해 발상의 전환이 일어났다. 인간이 선별한 지식을 부호화해 기계에 입력하는 방식에서 탈피하여 기계에 학습 과정을 일임하는 방식으로 선회했다. 1990년대에는 AI계의 이단아들이 이전 시대에 통용된 가정 중 다수를 무시하고 머신러닝으로 관심을 돌렸다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 머신러닝은 이미 1950년대부터 연구됐지만 1990년대에 들어서야 그간 발전한 기술 덕분에 비로소 실효성이 생겼다. 현실적으로 가장 효과적인 방식은 신경망을 이용해 방대한 데이터에서 패턴을 추출하는 것이었다. 철학에 빗대 말하자면 AI계의 선구자들은 세계를 기계론적 규칙으로 단순하게 표현하려던 초기 계몽주의적 관점에서 벗어나, 현실에 근접한 모델을 만드는 쪽으로 돌아섰다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 생성형 AI를 만들 때 주로 사용되는 훈련 기법은 상호보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것이다. 이를 ‘생성형 적대 신경망(GAN, Generative Adversarial Networks)’이라고 부른다. GAN은 잠재적 출력을 생성하는 ‘생성망’과 조악한 출력의 생성을 막는 ‘판별망’으로 구성된다. 비유하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다. 훈련은 생성망과 판별망을 번갈아가며 진행된다. 생성망을 훈련할 때는 판별망을 고정하고, 판별망을 훈련할 때는 생성망을 고정한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
저는 그림AI를 가끔 쓰는데요. 생성형AI의 기법이 두 신경망의 경쟁이라는걸 알고는 상상해보았어요. 마음대로 그림을 그리는 아이(생성망)와 그림들에 점수를 매기고 거르는 평가자(판별망)간의 무한대결이라니 ㅎㅎ
AI도 나중에 조현병이나 해리성 인격장애 같은 걸 겪게 되지는 않을까요? 치안이나 국방 AI가 '정신 질환'을 앓으면? 복지 업무를 하는 AI가 우울장애에 빠지면? 이거 너무 터무니없는 상상인가요? ^^;;;
“ 론 이 기법도 완벽하진 않다. GAN을 훈련하기가 쉽지 않고 조악한 결과가 많이 쏟아진다. 하지만 훈련만 잘되면 놀라운 결과가 나올 수 있다. 가장 흔히 사용되는 형태는 메일을 작성하거나 검 색어를 입력할 때 자동으로 문장을 완성하는 AI다. 여기서 더 발전하면 대략적으로 작성된 코드를 세밀하게 완성하는 AI도 개발 가능하다. 다시 말해 조만간 프로그래머가 프로그램의 뼈대만 잡아놓으면 나머지는 AI가 알아서 완성하는 시대가 열릴 수 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 하지만 AI는 반추하지 못하고, 그러고 싶다는 윤리적 혹은 철학적 충동도 느끼지 않는다. 그저 제가 아는 기법을 이용해 결과를 산출할 뿐이고, 그 결과는 인간의 관점에서 봤을 때 시시하거나 충격적일 수 있고, 온건하거나 악의적일 수 있다. AI는 반추하지 못하므로 그 행동의 의의를 결정하는 것은 인간의 몫이다. 따라서 인간이 AI를 규제하고 관리해야 한다. AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
신고에 의해 숨겨진 대화입니다.
화제로 지정된 대화
[셋째 주-읽기 미션 1/2] 4월 28일까지 달성하기
"요즘 넷플릭스 볼 거 없던데?"
넷플릭스를 최근 구독 해지한 친구가 말했어요. 볼 게 없다니요. 현재 한국 넷플릭스에서 서비스되고 있는 콘텐츠의 총개수는 4,000여 개를 훌쩍 넘는걸요! 그런데도 그 친구는 왜 볼 것이 없다고 느꼈을까요? 저는 그 정답을 [4장. 글로벌 네트워크 플랫폼]에서 찾았습니다.
'우리는 필수 정보나 유용한 정보를 선별하는 소프트웨어에 알게 모르게 의존한다. 이런 소프트웨어는 개인이 이전에 선택한 것과 대중이 선택한 것을 기준으로 뉴스, 영화, 음악을 선별한다.'
그 친구는 예능프로를 보느라고 한동안 넷플릭스보다 티빙에 더 많이 들어갔고, 결과적으로 넷플릭스는 사용자가 뭘 좋아하는지 알 수 있는 기회를 박탈당한 것이지요. 그러기에 추천 콘텐츠도 빈약할 수밖에 없었습니다.
제가 그동안 사용했던 플랫폼들을 생각하니 제4장을 읽으면서 "맞아. 맞아."라며 절로 고개가 끄덕여졌습니다.
그래서 이번 미션은…
4장. 글로벌 네트워크 플랫폼을 읽으며 공감되었던 문장을 1개씩 써보도록 해요!
“ 즉, AI가 소기의 행동을 수행하는지 평가하는 절차가 반드시 수립돼야 한다. 당분간은 머신러닝이 대세로 유지될 전망이므로 인간은 여전히 AI가 무엇을 학습하고 어떻게 학습하는지 알 수 없을 것이다. 그렇다고 낙심할 필요는 없다. 인간의 학습도 그처럼 불투명할 때가 많기 때문이다. 예술가 와 운동선수, 작가와 정비사, 부모와 자녀를 막론하고 모든 인간은 주로 직관에 따라 행동하기 때문에 무엇을 어떻게 배웠는지 똑똑히 말할 수 없을 때가 많다. 이런 불투명성을 해소하기 위해 각 사회는 수많은 전문가 인증 프로그램, 규제, 법을 만들었다. AI에도 비슷한 방식이 적용돼야 한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 3장 튜링의 시대에서 현재로, 그 너머로, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
인간의 학습도 그처럼 불투명할 때가 많기 때문이다. 이 문장이 약간 소름 돋았어요. 정말로 AI는 인간에 가깝게(각 인간 개개인이 예측불가한 것처럼) 진화하고 있다는 점에서요.
글타래
화제 모음
지정된 화제가 없습니다