앞에서 차근차근 쌓아왔던 AI에 대한 지식들을 바탕으로 책의 제목인 '도덕성'을 따지는 6장이네요! AI를 만든 사람, 허가한 사람이 아니라 AI 자체에 책임을 물을 수 있는가 질문합니다. 생각지 못했던 부분인데, 아직 저에게는 AI가 '기계'나 '소프트웨어' 정도로 인식되었나봐요. AI가 인간처럼 판단하고 행동할 수 있다면 마찬가지로 책임도 부과할 수 있다는 게 자연스러운데 말이죠.
[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!
D-29
한 가지 제안은 인간의 도덕성을 충분히 연구하여 AI에 인간의 도덕성을 탑재하는 것이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.228, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
전반적으로 말해서 우리 방법의 목표는 사람들과 AI 시스템이 더 나은 도덕적 판단을 내리고 인간의 도덕적 가치에 부합하는 방향으로 행동하도록 보조하는 것이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.255, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
도덕적 AI 개발과 관련해 본문에 등장하는 '코 만지기' 게임의 비유가 굉장히 적절하네요. 누가 시간적, 금전적 손해를 감수하고 도덕적 AI를 만들 것인가? 일단 나는 아니다...AI가 기업의 영역을 넘어 사회 전반에서 다루어야 할 문제라는 점을 저자들이 명확하게 짚어주어 좋았습니다.
예 '코 만지기' 게임이 맞을 것 같아요. AI 기술의 상업적 가치가 높아지면서, 수익 창출이 급한 기업들로서는 AI 상품을 빨리 출시하고 싶은 유혹이 강할 테죠. 윤리적 영향을 꼼꼼히 따져보자는 주장은, 지금은 경쟁에 뒤처지면 안 된다는 기업문화에 묻히기 십상일 테고요. 하지만 그 부작용이 제대로 평가되지 않으면 사회가 그 비용을 치러야 하고, 기업에도 큰 리스크가 되겠죠. 이 부분은 제도적 노력이 중요할 것 같아요. 한국에서도 AI윤리 영향평가에 대한 논의가 점차 활발해지는 것 같은데, 기술 경쟁력과 사회의 안전성을 모두를 균형 있게 고려할 수 있는 좋은 평가 시스템이 만들어졌으면 합니다.
https://blog.naver.com/kisdi_pr/223764437437
“ 많은 경우 린-애자일 방법은 이 문제를 악화한다. 윤리 문제를 해결하기 위한 계획이 ... 조직 환경에서 일반적으로 기대되는 린-애자일 제품 주기 완료 속도 수준으로 기존의 다른 지표들을 향상시키지 못한다고 해보자. 그렇다면 윤리 문제는 결국 현실의 영감이 아니라 발전을 저해하고 직업 안정성에 위협이 되는 것으로 간주될 가능성이 높다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.273, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ 이상화 단계는 매우 신중하게 수행되어야 하나. 인간의 도덕적 실수에 대한 최선의 모형은 결코 완벽할 수 없으므로 모형에 기반하여 교정한다고 해도 결국 실수의 원인이 자체적으로 생겨날 수 있기 때문이다. 이 방법을 구체적으로 실현하는 데 성공하더라도, 우리는 흠결 하나 없는 기계가 마늘어지리라 생각할 만큼 순진하지 않다. 그럼에도 이상화된 도덕적 판단을 AI에 구축하는 것은 도덕성이 없거나 도덕성을 교정하지 않은 AI 기술보다 커다란 발전이라고 믿는다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p253, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ (…) 최소한 다섯 곳의 전쟁터에서 도덕적인 AI 전략이 동시에 성공적으로 추구되어야 한다고 우리는 생각한다. 그 다섯 곳의 전쟁터는 바로 기술 보급, 조직 관행, 교육, 시민 참여, 공공 정책이다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p263-264, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ AI 제품팀은 AI 제품이 제기하는 윤리 문제를 해결하는 데 필요한 투자가 조직의 재정적 요구, 일정, 기대, 보상 구조와 양립하지 않는다고 반복해서 보고한다. 심지어 AI 관여자들이 도덕적 고려사항을 제품에 탑재하는 방법을 알고 있고 그렇게 해야 한다고 생각하도 관련 조치를 취할 권한이 없을 수 있다. (…) ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p272, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ 많은 경우 린-애자일 방법은 이 문제를 악화한다. 윤리 문제를 해결하기 위한 계획이 새로운 제품 수정주기를 촉진하지 못하거나, 조직 환경에서 일반적으로 기대되는 린-애자일 제품 주기를 완료 속도 수준으로 기존의 다른 지표들을 향상시키지 못하나고 해보자. 그렇다면 윤리 문제는 결국 혁신의 영감이 아니라 발전을 저해하고 직업 안정성에 위협이 되는 것으로 간주될 가능성이 높다. 최고의 AI 기업들이 폭넓은 정책 수준에서 AI 윤리 원칙을 채택하고 있음이도 궁극적으로는 AI 윤리팀을 축소하거나 아예 해체하는 주된 이유가 바로 여기에 있다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p273, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ 사실 '기술적인 매력'으로 인해 도덕적인 문제가 가려지는 현상은 오늘날 더욱 큰 우려를 낳는다. 왜냐하면 소수의 핵과학자가 아니라 대부분의 사회가 AI 발전에 매료되어 AI의 잠재적 남용과 해악에 대한 대처를 포기하는 지경에 이르렀기 때문이다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI가 우리 삶에 윤리적인 영향을 미치도록 하려면 인간으로서 우리는 무엇을 해야 하는가?
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.259, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
구체적으로 다섯 가지 행동을 제안해서 좋았습니다. 그렇지만 업계 종사자나 공공 정책 담당자가 주로 고민해야 하는 것으로 보여서, 그외에 시민 1로서 할 수 있는 영역도 더해졌으면 더 좋았을 거 같아요! AI를 사용하는 이들은 결국 대중일 테니까요.
우리는 AI 시스템 작동에 대한 과학적인 이해의 수준을 높이고 인류에게 해악이 아닌 이득을 가져다 주는 방법에 대한 이해를 심화시킬 수 있다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI를 쉽게 접하는 만큼, AI에 대한 이해 교육도 수반이 되면 좋겠네요. AI를 직접 만드는 개발자를 키우는 것도 중요하겠지만, AI의 개발 방식, 프로세스, 영향 등을 얕고 넓게 고려할 수 있도록 대중들의 이해를 끌어올리는 작업도 필요해보입니다.
북클럽을 열고, 어색하게 인사드린 것이 엊그제 같은데, 어느덧 3주가 지났습니다. 함께 읽고 이야기를 나눠주신 모든 분들께 감사의 말씀을 드립니다.
AI 기술의 발전은 저희와 같은 출판업, 그러니까 지식의 생산과 창의성이 결합(?)된 영역에서 일하는 사람들에게도 놀랍게 다가옵니다. 편집자가 느끼기에는 몇 년 사이 기계번역의 질과 속도가 상당히 좋아졌고, 팩트체크 정확성도 높아진 것으로 보입니다. 또한 디자이너들도 디자인 작업에 AI 도구를 활용한다고 듣고 있습니다. 좋은 쪽으로 보면 ‘도움’을 받는 셈이고, 좀 과장해서 말하면 일종의 작업자의 사고와 창의성을 ‘외주화’하는 셈입니다.
이 책의 주제를 살짝 벗어난 얘기일 테지만, '도덕적인 AI'를 우려하는 시선도 있을 수 있습니다. '도덕적인 AI'는 불편한 물음을 숨기고 있습니다. '인간은 믿을 만한 존재가 못 된다'라는 인간에 대한 불신이 깔려 있다는 점이 그렇습니다. ‘도덕적인 AI’ 기술이 극단적인 형태로 적용되면, 먼 훗날에 인간은 인간의 도덕성까지 외주를 주게 될지도 모를 일입니다. 그리고 요즘과 같은 분열된 사회를 보면 그런 가정이 비약도 아닐 것 같습니다. 당파적이며 믿기 힘든 인간 대신에, 공동체의 상식을 학습한 기계에 도덕적 판단을 맡기자는 주장은 그럴듯해 보입니다(이제 프로야구에서 심판의 스트라이크/볼 판정을 기계가 대신한다죠). 그동안 인간을 인간답게 했던 모든 것이 외주화되면, 미래에 인간의 자리는 어디에 있을까요?
함께해서 즐거운 시간이었습니다. 아직 독서를 마치지 못하신 분들은 마지막까지 힘내주시고, 좋은 기회에 다시 인사드릴 수 있으면 좋겠습니다.
감사합니다.
좀 많이 늦게 시작했습니다 jㅁj 다른분들 댓글 읽어가면서 남은시간 적어볼께요!
SNS 인증글 https://www.instagram.com/p/DI20tYlxWCN/?igsh=OWgwNHE3ZTMzanNt
온라인 기대평 https://blog.aladin.co.kr/748381139/16405823
글타래
화제 모음
지정된 화제가 없습니다