https://www.threads.net/@misssensemint/post/DHxSPECSIIb?xmt=AQGzxs61mhB1sC_jrXOm3Vxtqd0ERFYtB9cys8_lZzlI-Q
SNS 책 도착 인증과 온라인서점 기대평 남겼습니다~
https://naver.me/xIecEe3g
[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!
D-29
센스민트님 감사합니다! 함께 재밌게 이야기 나누면 좋겠습니다~
책 잘 받았습니다 >_<
인스타에 책 수령 인증 올렸습니닷
https://www.instagram.com/p/DH2eNnWRgaU/?igsh=YzdraWpscnI0c2k5
감사합니다!!❤️😍
우주먼지밍님, 사진을 정말 예쁘게 찍어서 올려주셨네요.ㅎㅎ 감사합니다!
오늘하루도님, 감사합니다. 즐거운 만남 기대됩니다~
화제로 지정된 대화
안녕하세요. 김영사 모임지기 입니다.
많은 분들이 참여해주셨네요. 감사합니다.^^
요즘 열풍인 지브리 스타일로 <도덕적인 AI>를 만들어봤습니다. 5분쯤 기다리니 이미지가 생성되더군요.
정말 신기했습니다!
본격적인 모임 전이지만, 혹시 시간이 되시는 분들은 서문을 읽으며 저자들의 입장을 살짝 파악해두셔도 좋을 것 같습니다. 기본적으로 저자들의 AI 기술에 대한 입장은 중립적이고, 이 기술의 위험성을 과소평가해서도 안 되지만 과대평가해서도 안 된다고 봅니다! AI로 인해 발생하고 있는 사회 여러 영역에서의 긍정적인 혁신과 부정적인 문제를 나란히 비교해서 제시합니다. '여러분은 어떻게 생각하십니까' 이런 태도입니다. 이 책을 함께 읽을 때는 저자들의 입장을 존중하는 차원에서 좀더 개방적인 태도로 이 기술을 바라봤으면 하는 바람입니다.
이번 주 모임에서 뵙겠습니다!
p.s. 위의 챗GPT로 만든 이미지에 관해서 만한 주목할 문장이 있더군요. "이 AI는 그 어떤 허락이나 보상 또는 저작자의 승인도 없이 인간 예술가의 이미지로 훈련된 것이다. 미술품 생성 AI는 이미 제작된 상태이므로, 본인의 작품이 데이터에 포함되길 바라지 않거나 저작권으로 보호되어 있는 인간 예술가들의 작품을 AI가 '잊도록' 만드는 것은 기술적으로 어려운 일이다. 어떤 경우에는 불가능하기도 하다." (20면)
화제로 지정된 대화
안녕하세요. 북클럽 첫주가 밝았습니다.
이번 주 함께 읽을 곳은 서문부터 2장까지입니다.
책은 전체 7장(+서론과 결론)으로 되어 있는데, 책의 전체적인 주제나 흐름은 미흡하나마 보도자료를 참고하시면 될 것 같습니다.
https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=356337303&start=slayer
본문 시작 전에 <들어가며> 글을 보면, 세 명의 저자들은 모두 다른 분야(철학자, 컴퓨터과학자, 데이터과학자)를 연구하고 있다고 밝힙니다. 그리고 “AI의 도덕적 피해를 최소화하면서도 AI 혁신을 증진하는 방법”에 대해 고민하면서 함께 연구했고, 그 의기투합(?)의 결과물이 이 책으로 나왔다고 소개하고 있습니다.
그러니까 이 책에는 저자들 개개인의 고유한 주장과 목소리가 담겨 있기보다는, 그들(또는 그들의 연구팀)이 함께 논의하면서 대체로 합의한 내용을 담고 있음을 알 수 있습니다.
서론은 앞서 소개한 대로, AI 도입 후 사회 전역에서 불거지고 있는 ‘좋은 뉴스’와 ‘나쁜 뉴스’를 분야별로 짤막하게 정리하고 있습니다. 예를 들어, 운송 분야에서는 자율주행차를 통해 시각장애인의 이동권이 확장됐다는 소식은 좋은 뉴스이지만, 자율주행차의 인식 시스템의 오류 때문에 사고가 일어난 것은 나쁜 뉴스라는 식이지요. 생성 이미지를 만드는 AI가 예술가의 저작권을 침해할 수 있다는 우려도 언급되고 있습니다. 앞으로 이 책에서 중심적으로 다루게 될, AI 윤리적 문제(안전성, 공정성, 프라이버시, 자유, 투명성, 기만) 등에 대해 미리 보여줍니다.
1장에서는 인공지능은 무엇인지, 저자들이 제안하고 있는 정의를 제시하고, 일반적으로 사용하고 있는 다양한 용어와 개념들의 차이를 설명합니다. 저자들은 AI가 해결해야 하는 임무를 수학적으로 서술하는 방법, 임무를 수행할 때 활용할 수 있는 데이터를 찾는 일이 오늘날 AI 개발자들의 중요한 과제라고 봅니다. 특히 AI를 학습시키는 다양한 방법들이 소개되고 있는데, 저자들은 이런저런 유형들의 AI가 계속 등장하는 이유가 개발자들도 최선의 AI를 찾는 중이기 때문일 거라고 합니다.
2장에서는 오늘날 AI를 둘러싼 안전 문제를 목록으로 보여줍니다. 군사, 의료, 소셜미디어 등 꽤 현실적이고 흥미로운 사례들이 많습니다. 특히 AI를 너무 신뢰하면서, 인간 전문가의 숙련도가 떨어지고, AI의 실수를 알아채거나 바로잡는 데 어려움을 경우들이 등장하고 있다는 점이 정리되어 있습니다.
(너무 모임지기의 말이 많은 것 같습니다.^^;) 앞으로 책을 읽으면서 인상이 깊었던 대목, 들었던 의문 등을 편하게 들려주세요. AI 사용자로서의 경험(지금 어떤 AI를 이용하고 있으신가요? 또는 AI와 관련해서 곤란한 일이 있으신가요?)도 좋고, AI 학습자나 개발자로서의 경험이나 실수도 좋습니다. 그리고 지금의 AI 열기에 대해 어떤 생각이 드시는지도 궁금합니다. 여러분들의 흥미진진한 이야기들이 기대됩니다.
서론에서 각 분야별로 AI가 인류에 이롭게 쓰이는 예와 해롭게 쓰이는 예를 대조적으로 보여주는 사례들이
좋은 인트로가 되는 것 같아요. 1장에서 기술적인 얘기가 나와서 조금 긴장했지만 가장 중요한 개념들을 최대한 단순하게 포인트를 잘 짚어 주쎴던 것 같아요. 챗 GPT의 등장으로 거의 슈퍼지능이 곧 나올것 같은 분위기가 무르익었지만
책에서 나왔듯이 문을 통과해서 탁자를 옮겨야 하는에 문에 비해 탁자가 너무 넓으면 어떡하냐고 물어보면 문을 자르라고 한다는 예시를 보며 안심과 실망의 마음이 교차하네요. AI가 불안한건 정말 어디서 어떤 논리로 실수를 할지 모른다는게 아닐까 하는 생각이 들었어요. 그리고 예상했던대로 AI에 너무 의존하는 것은 결국 전문가의 숙련도를 저하시킬수 있다는 연구와 사례들을 보니 정말 많은 고민이 필요할 것 같습니다.
우리 의 미래는 점점 커져가는 기술의 힘과 그것을 사용하는 지혜 사이의 경쟁이 될 것이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 스티븐 호킹, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
일정대로 읽으려던 계획이 무산된 지 오래라; 남은 기간동안 급하게 따라가는 중이에요ㅎㅎ 여러 분야에서 쓰이고 있는 AI 기술 발전에 대해서 실제 사례를 통해 자세히 설명되어 있어서 저 처럼 과학 용어를 외국어로 인식하는 사람도 2장까지는 나름 흥미롭게 읽을 수 있었어요. 뇌과학 분야는 그래도 이해가 잘 되는데 그 유명한 <삼체>도 중도 포기하고 <물고기는 존재하지 않는다>에서도 그리 큰 재미를 느끼지 못해 과학 머리가 없단 걸 확실히 인지하고 있는 상태라 위기감이 느껴지지만 다른 분들이 미리 달아 주신 감상읽으며 힘을 내 볼게요!
예 센스민트님 열심히 참여해주시려는 모습이 감동이에요. 관심 있는 부분 위주로 읽으셔도 괜찮을 것 같아요. 남은 기간 힘내주시기 바랍니다!
격려해 주신 덕분에 조금 무리하긴 했지만 다행히도 완독했습니다~! ㅎ 지금껏 사용자로서의 편의성만 생각하며 눈부시게 발전 중인 AI 기술 혁신에 감탄만 했지 책에서 다루고 있는 윤리적이고 도덕적인 측면에서의 문제점이나 그에 따른 해결책에 대해서는 나랑 상관없는 남의 일로만 생각했던 것 같아서 뜨끔했습니다; 최근에 기후 위기 책 읽으면서도 비슷한 걸 느꼈는데 개인사에 매몰된 관점을 좀 더 사회로 돌리고 일상에서도 공익적인 생각을 하는 습관을 좀 들여야겠다는 반성도 하게 되네요. 그래도 이 책을 읽고 나니 AI 시대에도 인간의 역할은 확실히 있는 것 같아서 오히려 희망이 생겼어요. 이런 좋은 책을 소개해 주시고 그동안 모임 가이드하시느라 정말 고생 많으셨습니다~! 덕분에 과학 분야의 턱없이 부족한 제 식견이 조금은 넓어진 것 같아서 기분 좋은 밤이에요. :)
센스민트님, 완독하셨군요! 축하드립니다.^^ 생각의 지평을 넓히는 데 도움이 되셨다니 감동입니다. 시작할 때는 조금 부담스러웠지만, 저도 이번 독서 모임을 통해 주제를 좀더 깊이 생각할 수 있었고 다양한 분들의 말씀을 통해 많은 것을 배우고 있습니다. 앞으로도 김영사의 과학책에 많이 관심을 가져주셔요. 감사드립니다!
최근에 생성형 AI 인 챗GPT를 살짝 쓰기 시작했어요!
왜...사람들이 이걸 쓰는지 알 것 같기도 해요.. .너무 친절하고 상냥하게 제가 원하는 정보를 바로바로 알려주더라구요. 평소에 쓰던 AI는 티비옆에 두고 쓰는 "지니"나 핸드폰의 "시리"가 있어요
AI가 사회에 초래할 잠재적 편익과 위험을 고려하려면 AI의 본질과 한계를 명확하게 파악해야 한다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.22, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
안내해주신대로 서론에서는 분야별로 AI의 좋은소식/나쁜소식을 짝지어 쉽게 눈에 들어옵니다! 그리고 앞으로 논쟁지점들을 여섯 가지 키워드로 정리해준 것도 읽기 좋네요.
예 맞아요. 저자들이 제시한 논쟁점들(안전성, 공정성, 프라이 버시, 자유, 투명성, 기만)이 AI 윤리의 중요한 주제들입니다. 사안마다 복합적으로 드러나는 경우도 있는데, 뒷장에서 좀 더 깊게 다뤄질 것입니다.
이것이 바로 '기계학습(머신 러닝)'이라는 유형의 AI를 뒷받침하는 생각이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.38, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI를 학습시키는 방식은 사람을 가르치는 방식에서 따왔네요. 이어지는 신경망이라는 아이디어도 사람 뇌의 신경세포에서 착안했고 말이죠. AI는 방대한 데 이터를 순식간에 처리해서 인간을 넘어선 것(인간 바깥의 무언가)으로 보이기도 하는데요, 처음은 사람처럼 키운다는 사실이 새삼스럽게 신기합니다.
글타래
화제 모음
지정된 화제가 없습니다