“ (…) 최소한 다섯 곳의 전쟁터에서 도덕적인 AI 전략이 동시에 성공적으로 추구되어야 한다고 우리는 생각한다. 그 다섯 곳의 전쟁터는 바로 기술 보급, 조직 관행, 교육, 시민 참여, 공공 정책이다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p263-264, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!
D-29
“ AI 제품팀은 AI 제품이 제기하는 윤리 문제를 해결하는 데 필요한 투자가 조직의 재정적 요구, 일정, 기대, 보상 구조와 양립하지 않는다고 반복해서 보고한다. 심지어 AI 관여자들이 도덕적 고려사항을 제품에 탑재하는 방법을 알고 있고 그렇게 해야 한다고 생각하도 관련 조치를 취할 권한이 없을 수 있다. (…) ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p272, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ 많은 경우 린-애자일 방법은 이 문제를 악화한다. 윤리 문제를 해결하기 위한 계획이 새로운 제품 수정주기를 촉진하지 못하거나, 조직 환경에서 일반적으로 기대되는 린-애자일 제품 주기를 완료 속도 수준으로 기존의 다른 지표들을 향상시키지 못하나고 해보자. 그렇다면 윤리 문제는 결국 혁신의 영감이 아니라 발전을 저해하고 직업 안정성에 위협이 되는 것으로 간주될 가능성이 높다. 최고의 AI 기업들이 폭넓은 정책 수준에서 AI 윤리 원칙을 채택하고 있음이도 궁극적으로는 AI 윤리팀을 축소하거나 아예 해체하는 주된 이유가 바로 여기에 있다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p273, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
“ 사실 '기술적인 매력'으로 인해 도덕적인 문제가 가려지는 현상은 오늘날 더욱 큰 우려를 낳는다. 왜냐하면 소수의 핵과학자가 아니라 대부분의 사회가 AI 발전에 매료되어 AI의 잠재적 남용과 해악에 대한 대처를 포기하는 지경에 이르렀기 때문이다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI가 우리 삶에 윤리적인 영향을 미치도록 하 려면 인간으로서 우리는 무엇을 해야 하는가?
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.259, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
구체적으로 다섯 가지 행동을 제안해서 좋았습니다. 그렇지만 업계 종사자나 공공 정책 담당자가 주로 고민해야 하는 것으로 보여서, 그외에 시민 1로서 할 수 있는 영역도 더해졌으면 더 좋았을 거 같아요! AI를 사용하는 이들은 결국 대중일 테니까요.
우리는 AI 시스템 작동에 대한 과학적인 이해의 수준을 높이고 인류에게 해악이 아닌 이득을 가져다 주는 방법에 대한 이해를 심화시킬 수 있다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.317, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI를 쉽게 접하는 만큼, AI에 대한 이해 교육도 수반이 되면 좋겠네요. AI를 직접 만드는 개발자를 키우는 것도 중요하겠지만, AI의 개발 방식, 프로세스, 영향 등을 얕고 넓게 고려할 수 있도록 대중들의 이해를 끌어올리는 작업도 필요해보입니다.
북클럽을 열고, 어색하게 인사드린 것이 엊그제 같은데, 어느덧 3주가 지났습니다. 함께 읽고 이야기를 나눠주신 모든 분들께 감사의 말씀을 드립니다.
AI 기술의 발전은 저희와 같은 출판업, 그러니까 지식의 생산과 창의성이 결합(?)된 영역에서 일하는 사람들에게도 놀랍게 다가옵니다. 편집자가 느끼기에는 몇 년 사이 기계번역의 질과 속도가 상당히 좋아졌고, 팩트체크 정확성도 높아진 것으로 보입니다. 또한 디자이너들도 디자인 작업에 AI 도구를 활용한다고 듣고 있습니다. 좋은 쪽으로 보면 ‘도움’을 받는 셈이고, 좀 과장해서 말하면 일종의 작업자의 사고와 창의성을 ‘외주화’하는 셈입니다.
이 책의 주제를 살짝 벗어난 얘기일 테지만, '도덕적인 AI'를 우려하는 시선도 있을 수 있습니다. '도덕적인 AI'는 불편한 물음을 숨기고 있습니다. '인간은 믿을 만한 존재가 못 된다'라는 인간에 대한 불신이 깔려 있다는 점이 그렇습니다. ‘도덕적인 AI’ 기술이 극단적인 형태로 적용되면, 먼 훗날에 인간은 인간의 도덕성까지 외주를 주게 될지도 모를 일입니다. 그리고 요즘과 같은 분열된 사회를 보면 그런 가정이 비약도 아닐 것 같습니다. 당파적이며 믿기 힘든 인간 대신에, 공동체의 상식을 학습한 기계에 도덕적 판단을 맡기자는 주장은 그럴듯해 보입니다(이제 프로야구에서 심판의 스트라이크/볼 판정을 기계가 대신한다죠). 그동안 인간을 인간답게 했던 모든 것이 외주화되면, 미래에 인간의 자리는 어디에 있을까요?
함께해서 즐거운 시간이었습니다. 아직 독서를 마치지 못하신 분들은 마지막까지 힘내주시고, 좋은 기회에 다시 인사드릴 수 있으면 좋겠습니다.
감사합니다.
좀 많이 늦게 시작했습니다 jㅁj 다른분들 댓글 읽어가면서 남은시간 적어볼께요!
SNS 인증글 https://www.instagram.com/p/DI20tYlxWCN/?igsh=OWgwNHE3ZTMzanNt
온라인 기대평 https://blog.aladin.co.kr/748381139/16405823
글타래
화제 모음
지정된 화제가 없습니다