예 센스민트님 열심히 참여해주시려는 모습이 감동이에요. 관심 있는 부분 위주로 읽으셔도 괜찮을 것 같아요. 남은 기간 힘내주시기 바랍니다!
[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!
D-29
격려해 주신 덕분에 조금 무리하긴 했지만 다행히도 완독했습니다~! ㅎ 지금껏 사용자로서의 편의성만 생각하며 눈부시게 발전 중인 AI 기술 혁신에 감탄만 했지 책에서 다루고 있는 윤리적이고 도덕적인 측면에서의 문제점이나 그에 따른 해결책에 대해서는 나랑 상관없는 남의 일로만 생각했던 것 같아서 뜨끔했 습니다; 최근에 기후 위기 책 읽으면서도 비슷한 걸 느꼈는데 개인사에 매몰된 관점을 좀 더 사회로 돌리고 일상에서도 공익적인 생각을 하는 습관을 좀 들여야겠다는 반성도 하게 되네요. 그래도 이 책을 읽고 나니 AI 시대에도 인간의 역할은 확실히 있는 것 같아서 오히려 희망이 생겼어요. 이런 좋은 책을 소개해 주시고 그동안 모임 가이드하시느라 정말 고생 많으셨습니다~! 덕분에 과학 분야의 턱없이 부족한 제 식견이 조금은 넓어진 것 같아서 기분 좋은 밤이에요. :)
센스민트님, 완독하셨군요! 축하드립니다.^^ 생각의 지평을 넓히는 데 도움이 되셨다니 감동입니다. 시작할 때는 조금 부담스러웠지만, 저도 이번 독서 모임을 통해 주제를 좀더 깊이 생각할 수 있었고 다양한 분들의 말씀을 통해 많은 것을 배우고 있습니다. 앞으로도 김영사의 과학책에 많이 관심을 가져주셔요. 감사드립니다!
최근에 생성형 AI 인 챗GPT를 살짝 쓰기 시작했어요!
왜...사람들이 이걸 쓰는지 알 것 같기도 해요.. .너무 친절하고 상냥하게 제가 원하는 정보를 바로바로 알려주더라구요. 평소에 쓰던 AI는 티비옆에 두고 쓰는 "지니"나 핸드폰의 "시리"가 있어요
AI가 사회에 초래할 잠재적 편익과 위험을 고려하려면 AI의 본질과 한계를 명확하게 파악해야 한다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.22, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초 월 옮김
문장모음 보기
안내해주신대로 서론에서는 분야별로 AI의 좋은소식/나쁜소식을 짝지어 쉽게 눈에 들어옵니다! 그리고 앞으로 논쟁지점들을 여섯 가지 키워드로 정리해준 것도 읽기 좋네요.
예 맞아요. 저자들이 제시한 논쟁점들(안전성, 공정성, 프라이버시, 자유, 투명성, 기만)이 AI 윤리의 중요한 주제들입니다. 사안마다 복합적으로 드러나는 경우도 있는데, 뒷장에서 좀 더 깊게 다뤄질 것입니다.
이것이 바로 '기계학습(머신 러닝)'이라는 유형의 AI를 뒷받침하는 생각이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.38, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI를 학습시키는 방식은 사람을 가르치는 방식에서 따왔네요. 이어지는 신경망이라는 아이디어도 사람 뇌의 신경세포에서 착안했고 말이죠. AI는 방대한 데이터를 순식간에 처리해서 인간을 넘어선 것(인간 바깥의 무언가)으로 보이기도 하는데요, 처음은 사람처럼 키운다는 사실이 새삼스럽게 신기합니다.
좋은 아침입니다!
출 근 버스 안에서 서론과 1장을 다 읽었습니다 :)
1장에서는 인공지능의 도덕성이라는 복잡하고 어려운 주제를 탐구하기 전에 반드시 알아야할 AI에 관한 기본개념들을 익힐 수 있어서 좋았습니다. 그간 AI 관련 교양서들 근처에서 서성였는데, 1장을 읽으면서 다시 개념 정리를 했어요 >_<
오.. 축하드립니다. 금방 1장까지 읽으셨군요. 1장을 읽으면 시중에 나온 AI들이 이용 목적이나 학습 방법에 따라 얼마나 다양한지 실감하게 됩니다.
“ 이 책의 논의를 위해 우리는 매우 폭넓은 AI의 정의를 사용하기로 했다. (…)
인간이 규정한 일련의 목표에 대해서 충분히 신뢰할 만하게 예측과 추천 및 결정을 수행하여 실제 또는 가상 환경에 영향을 미치는 기계 기반 시스템. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p28, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
1장에서는 AI의 개념을 잡고 AI의 부족한 점을 명쾌하게 집어주네요. "상식이 부족하다"라는 게 첫째로 나와서 웃기면서도, 사람이 지닌 '상식'의 범주가 정말 표현되지 못할 만큼 방대하구나 돌아보게 됩니다. 지식이 아니라 하나하나의 생활규범이랄까요? 말로 안해도 아는 사소한 것을 AI에는 입력해 학습을 해야 한다는 게 쉽지 않아 보여요.
“ 일부 AI 연구자와 신경과학자는 인간의 뇌가 우리 몸의 감각에 대한 물리적 지각을 통해 엄청난 양의 학습을 하기 때문에 AI가 이 세상에서 물리적 신체를 가지지 않고서는 인간 수준의 지능에 도달하지 못할 것이라고 믿는다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.59, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
얘기하는 한계 중에 물리적인 상호작용이 AI의 가장 큰 한계라고 생각합니다. 정신과 이성도 중요하지만, 환경에 대응하는 물리적인 신체를 가져야, 다른 존재들과 상호작용하는 감정적인 영역이 있어야 비로소 인간의 지능이라는 영역에 다다를 수 있을 테니까요.
그런 면에서 언급되는 로봇공학의 영역이 AI와 만나야 우리가 생각하는 인간 만큼의 존재, 인간 이상의 기술을 구현할 수 있을 것으로 보입니다. 인간이 못하는 일, 궂은 일을 대신하는 기계가 아니라 또 다른 개체를 탄생시키는 것에 대해서는 개인적으로 의문이 있긴 하지만요!
청명하다님, 재밌는 대목을 짚어주셨네요. 저도 책에서 인용하신 대목을 읽고 무릎을 쳤습니다.(아..진짜 무릎을 치진 않았습니다^^;) 저희 팀에서 로봇에 관한 책을 준비 중인데, 다니엘라 루스라는 MIT 로봇 공학자가 현재 로봇 기술에서 가장 필요한 연구가 바로 '더 나은 센서'라고 보고 있거든요. 단순히 시각적인 정보만이 청각, 후각, 촉각 등 주변의 가치 있는 정보를 최대한 많이 수집할 수 있는 것이 미래 로봇 연구의 과제라고 합니다. 그래서 지금 로봇에게 피부를 닮은 센서를 장착해서 촉각 능력을 강화하려는 연구가 꽤 활발한 것 같습니다. 말씀처럼 다른 존재와 상호작용하는 수준까지 기술이 발전할지는 모르겠지만요.
오! 로봇이라면 자연스러운 움직임을 만드는 것만 생각했는데, 더 나은 센서의 개발도 중요한 부분이군요. 준비하고 계신 책도 흥미로워 보입니다 ;)
예, 인공지능 발전 덕분에 훨씬 로봇 개발에서 다양한 진보가 이뤄지고 있는 것 같아요. 저희 책의 주제로 돌아오면, 자율주행차와 드론 같은 로봇들이 점점 현실에서 많이 쓰이고 있고, 안전성과 책임성을 두고 논란이 계속 불거지고 있는 것 같아요. 당연하지만, 저자들은 이런 기술들을 현실 세계로 도입하기 전에 그 위험성을 미리 예상하고 개입할 수 있는 과정을 꼭 넣어야 한다고 강조하고 있습니다.
화제로 지정된 대화
내일부터 <도덕적인 AI> 독서모임 2주차가 시작됩니다^^ 2주차에는 3~5장을 읽습니다. AI가 불러온 새로운 유형의 프라이버시 문제를 다룬 3장, AI의 편향 문제를 다룬 4장(특히 판사가 범죄자의 보석 판결에 활용 중인 ‘범죄 위험성 평가도구’에 대한 논란/ "편향이 입력되면 편향이 출력된다"), 자율주행차의 실제 사고 사례를 통해 인공지능의 책임 문제를 다룬 5장입니다. 앞서 2장까지는 다소 개론의 성격이었다면, 개인적으로는 3~5장은 큰 지루함 없이 읽으실 수 있을 거라고 생각합니다. 실제 사례를 다루기 때문에 훨씬 피부에 와닿고, 저자들이 던지는 질문과 쟁점을 다루는 수준에서도 내공(?)이 느껴집니다. 책이 생각보다 좀 어렵다고 느끼셨던 분들도 있으셨을 텐데, 2주차는 좀더 부담 없이 읽으실 수 있을 거라고 생 각합니다. 흥미를 끄는 대목이나, 생각거리를 주는 문장, 가벼운 질문들, 무엇이든 환영합니다! 좋은 말씀 나눠주세요~
[3장 | 인공지능은 프라이버시를 존중할 수 있을까]를 읽다가 제가 바로 프라이버시 냉소주의에 빠진 사람들 중 한 명이구나 싶었어요. 반쯤 체념한 우스개소리로 ‘개인정보는 공공정보다’라고들 말하는데요, 빅테크 기업들의 기상천외한 개인정보 수집과 유출, 그에 대한 솜방망이 처벌과 처벌규정의 미흡을 보면서 그런 프라이버시 단념을 하고 있었나봐요.
저자는 프라이버시 침해가 AI 사용에 따른 불가피한 결과는 결코 아니라고 하며, 프라이버시를 지식의 추구 및 혁신과 대립하는 것으로 바라보는 문화는 받아들일 필요가 없다고 강조합니다.
저는 이 대목을 읽으면서 이 문화를 개선하기 위해서는 제도적 규제가 선행되는 것이 먼저라고 생각하는 사람이기에, 책의 남은 장들에서 저자가 제도적 개선에 어떠한 의견을 가지고 어떠한 구체적인 주장을 개진할지 궁금해졌어요.
글타래
화제 모음
지정된 화제가 없습니다