[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!

D-29
이상화 단계는 매우 신중하게 수행되어야 하나. 인간의 도덕적 실수에 대한 최선의 모형은 결코 완벽할 수 없으므로 모형에 기반하여 교정한다고 해도 결국 실수의 원인이 자체적으로 생겨날 수 있기 때문이다. 이 방법을 구체적으로 실현하는 데 성공하더라도, 우리는 흠결 하나 없는 기계가 마늘어지리라 생각할 만큼 순진하지 않다. 그럼에도 이상화된 도덕적 판단을 AI에 구축하는 것은 도덕성이 없거나 도덕성을 교정하지 않은 AI 기술보다 커다란 발전이라고 믿는다.
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p253, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
(…) 최소한 다섯 곳의 전쟁터에서 도덕적인 AI 전략이 동시에 성공적으로 추구되어야 한다고 우리는 생각한다. 그 다섯 곳의 전쟁터는 바로 기술 보급, 조직 관행, 교육, 시민 참여, 공공 정책이다.
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p263-264, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
AI 제품팀은 AI 제품이 제기하는 윤리 문제를 해결하는 데 필요한 투자가 조직의 재정적 요구, 일정, 기대, 보상 구조와 양립하지 않는다고 반복해서 보고한다. 심지어 AI 관여자들이 도덕적 고려사항을 제품에 탑재하는 방법을 알고 있고 그렇게 해야 한다고 생각하도 관련 조치를 취할 권한이 없을 수 있다. (…)
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p272, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
많은 경우 린-애자일 방법은 이 문제를 악화한다. 윤리 문제를 해결하기 위한 계획이 새로운 제품 수정주기를 촉진하지 못하거나, 조직 환경에서 일반적으로 기대되는 린-애자일 제품 주기를 완료 속도 수준으로 기존의 다른 지표들을 향상시키지 못하나고 해보자. 그렇다면 윤리 문제는 결국 혁신의 영감이 아니라 발전을 저해하고 직업 안정성에 위협이 되는 것으로 간주될 가능성이 높다. 최고의 AI 기업들이 폭넓은 정책 수준에서 AI 윤리 원칙을 채택하고 있음이도 궁극적으로는 AI 윤리팀을 축소하거나 아예 해체하는 주된 이유가 바로 여기에 있다.
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p273, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
사실 '기술적인 매력'으로 인해 도덕적인 문제가 가려지는 현상은 오늘날 더욱 큰 우려를 낳는다. 왜냐하면 소수의 핵과학자가 아니라 대부분의 사회가 AI 발전에 매료되어 AI의 잠재적 남용과 해악에 대한 대처를 포기하는 지경에 이르렀기 때문이다.
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
AI가 우리 삶에 윤리적인 영향을 미치도록 하려면 인간으로서 우리는 무엇을 해야 하는가?
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p.259, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
구체적으로 다섯 가지 행동을 제안해서 좋았습니다. 그렇지만 업계 종사자나 공공 정책 담당자가 주로 고민해야 하는 것으로 보여서, 그외에 시민 1로서 할 수 있는 영역도 더해졌으면 더 좋았을 거 같아요! AI를 사용하는 이들은 결국 대중일 테니까요.
우리는 AI 시스템 작동에 대한 과학적인 이해의 수준을 높이고 인류에게 해악이 아닌 이득을 가져다 주는 방법에 대한 이해를 심화시킬 수 있다.
도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
AI를 쉽게 접하는 만큼, AI에 대한 이해 교육도 수반이 되면 좋겠네요. AI를 직접 만드는 개발자를 키우는 것도 중요하겠지만, AI의 개발 방식, 프로세스, 영향 등을 얕고 넓게 고려할 수 있도록 대중들의 이해를 끌어올리는 작업도 필요해보입니다.
북클럽을 열고, 어색하게 인사드린 것이 엊그제 같은데, 어느덧 3주가 지났습니다. 함께 읽고 이야기를 나눠주신 모든 분들께 감사의 말씀을 드립니다. AI 기술의 발전은 저희와 같은 출판업, 그러니까 지식의 생산과 창의성이 결합(?)된 영역에서 일하는 사람들에게도 놀랍게 다가옵니다. 편집자가 느끼기에는 몇 년 사이 기계번역의 질과 속도가 상당히 좋아졌고, 팩트체크 정확성도 높아진 것으로 보입니다. 또한 디자이너들도 디자인 작업에 AI 도구를 활용한다고 듣고 있습니다. 좋은 쪽으로 보면 ‘도움’을 받는 셈이고, 좀 과장해서 말하면 일종의 작업자의 사고와 창의성을 ‘외주화’하는 셈입니다. 이 책의 주제를 살짝 벗어난 얘기일 테지만, '도덕적인 AI'를 우려하는 시선도 있을 수 있습니다. '도덕적인 AI'는 불편한 물음을 숨기고 있습니다. '인간은 믿을 만한 존재가 못 된다'라는 인간에 대한 불신이 깔려 있다는 점이 그렇습니다. ‘도덕적인 AI’ 기술이 극단적인 형태로 적용되면, 먼 훗날에 인간은 인간의 도덕성까지 외주를 주게 될지도 모를 일입니다. 그리고 요즘과 같은 분열된 사회를 보면 그런 가정이 비약도 아닐 것 같습니다. 당파적이며 믿기 힘든 인간 대신에, 공동체의 상식을 학습한 기계에 도덕적 판단을 맡기자는 주장은 그럴듯해 보입니다(이제 프로야구에서 심판의 스트라이크/볼 판정을 기계가 대신한다죠). 그동안 인간을 인간답게 했던 모든 것이 외주화되면, 미래에 인간의 자리는 어디에 있을까요? 함께해서 즐거운 시간이었습니다. 아직 독서를 마치지 못하신 분들은 마지막까지 힘내주시고, 좋은 기회에 다시 인사드릴 수 있으면 좋겠습니다. 감사합니다.
좀 많이 늦게 시작했습니다 jㅁj 다른분들 댓글 읽어가면서 남은시간 적어볼께요! SNS 인증글 https://www.instagram.com/p/DI20tYlxWCN/?igsh=OWgwNHE3ZTMzanNt 온라인 기대평 https://blog.aladin.co.kr/748381139/16405823
작성
글타래
화제 모음
지정된 화제가 없습니다
[책나눔 이벤트] 지금 모집중!
[도서 증정] 정재승, 김경일 추천 도서『집단 망상』 편집자, 마케터와 함께 읽어요![비공개 PDF 제공] 미출간 신간 <슈퍼 아웃풋 공부법> 먼저 읽고 이야기 나눠요! [도서증정][번역가와 함께 읽기] <전차 B의 혼잡>[도서증정] [발행편집인과 함께 읽기] 《일본의 조선 강점, 1868-1910》[도서 증정] 논픽션 <두려움이란 말 따위> 편집자와 함께 읽어요! (동아시아)
💡독서모임에 관심있는 출판사들을 위한 안내
출판사 협업 문의 관련 안내
그믐 새내기를 위한 가이드
그믐에 처음 오셨나요?[메뉴]를 알려드릴게요. [그믐레터]로 그믐 소식 받으세요
<코스모스> 꼭 읽게 해 드리겠습니다!
2026년 새해 첫 책은 코스모스!
내 맘대로 골라보는《최고의 책》
[그믐밤] 42. 당신이 고른 21세기 최고의 책은 무엇인가요? [그믐밤] 17. 내 맘대로 올해의 책 @북티크
🎨책과 함께 떠나는 미술관 여행
[느낌 좋은 소설 읽기] 1. 모나의 눈[웅진지식북클럽] 1. <나는 메트로폴리탄 미술관의 경비원입니다> 함께 읽어요[책증정] 미술을 보는 다양한 방법, <그림을 삼킨 개>를 작가와 함께 읽어요.[도서 증정] 저자이자 도슨트인 유승연과 함께 읽는 <내셔널 갤러리에서 보낸 500일>
그믐 앤솔러지 클럽에서 읽고 있습니다
[그믐앤솔러지클럽] 3. [책증정] 일곱 빛깔로 길어올린 일곱 가지 이야기, 『한강』[그믐앤솔러지클럽] 2. [책증정] 6인 6색 신개념 고전 호러 『귀신새 우는 소리』[그믐앤솔러지클럽] 1. [책증정] 무모하고 맹렬한 처음 이야기, 『처음이라는 도파민』[그믐미술클럽 혹은 앤솔러지클럽_베타 버전] [책증정] 마티스와 스릴러의 결합이라니?!
듣고 이야기했어요
[밀리의서재로 듣기]오디오북 수요일엔 기타학원[그믐밤] 29. 소리 산책 <나는 앞으로 몇 번의 보름달을 볼 수 있을까> [팟캐스트/유튜브] 《AI시대의 다가올 15년, 우리는 어떻게 살아남을 것인가?》같이 듣기
⏰ 그믐 라이브 채팅 : 최구실 작가와 함께한 시간 ~
103살 차이를 극복하는 연상연하 로맨스🫧 『남의 타임슬립』같이 읽어요💓
매달 다른 시인의 릴레이가 어느덧 12달을 채웠어요.
[날 수를 세는 책 읽기ㅡ 12월] '오늘부터 일일'[날 수를 세는 책 읽기ㅡ11월] '물끄러미' 〔날 수를 세는 책 읽기- 10월 ‘핸드백에 술을 숨긴 적이 있다’〕
어두운 달빛 아래, 셰익스피어를 읽었어요
[그믐밤] 35. 달밤에 낭독, 셰익스피어 1탄 <햄릿> [그믐밤] 36. 달밤에 낭독, 셰익스피어 2탄 <맥베스> [그믐밤] 37. 달밤에 낭독, 셰익스피어 3탄 <리어 왕> [그믐밤] 38. 달밤에 낭독, 셰익스피어 4탄 <오셀로>
독서모임에 이어 북토크까지
[책증정][1938 타이완 여행기] 12월 11일 오프라인 북토크 예정!스토리 수련회 : 첫번째 수련회 <호러의 모든 것> (with 김봉석)[책증정] 저자와 함께 읽기 <브루클린 책방은 커피를 팔지 않는다> +오프라인북토크
🎁 여러분의 활발한 독서 생활을 응원하며 그믐이 선물을 드려요.
[인생책 5문 5답] , [싱글 챌린지] 완수자에게 선물을 드립니다
AI 에 관한 다양한 시선들
[AI는 인간을 먹고 자란다] 결과물과 가치중립성의 이면[도서 증정]《미래는 생성되지 않는다》 저자, 편집자와 함께 읽어요![김영사/책증정] <AI 메이커스> 편집자와 함께 읽기 /제프리 힌턴 '노벨상' 수상 기념[도서 증정] <먼저 온 미래>(장강명) 저자, 편집자와 함께 읽어요!AI 이후의 세계 함께 읽기 모임
독자에게 “위로와 질문”을 동시에 던지는 이희영
[도서 증정] 『안의 크기』의 저자 이희영 작가님, 편집자와 함께 읽어요![책 증정] 이희영 장편소설 『BU 케어 보험』 함께 읽어요![선착순 마감 완료] 이희영 작가와 함께 신간 장편소설 《테스터》 읽기
한 해의 마지막 달에 만나는 철학자들
[책걸상 '벽돌 책' 함께 읽기] #29. <미셸 푸코, 1926~1984>[책걸상 함께 읽기] #52. <어떻게 살 것인가: 삶의 철학자 몽테뉴에게 인생을 묻다>[도서 증정] 순수이성비판 길잡이 <괘씸한 철학 번역> 함께 읽어요![다산북스/책증정]《너를 위해 사는 것이 인생이라고 니체가 말했다》 저자&편집자와 읽어요!
<피프티 피플> 인물 탐구
피프티피플-이기윤피프티피플-권혜정피프티피플-송수정
모집중밤하늘
내 블로그
내 서재