저도 이 책에서 매우 흥미를 느낀 대목입니다. "인간의 이해란 것도 통계적 상관관계 접근법에 따른 이해 정도에 머무는 경우도 많지 않을까"라는 물음도 여러 가지 생각거리를 주는 질문일 것 같아요. 인간이 무언가를 ‘이해한다’는 행위는 단순한 정보 처리라기보다는 욕구에서 출발한 의미 구성 과정으로 볼 수 있다는 주장을 봤어요. 다른 얘기지만, 예전에 최재천 교수가 동물이 상대에게 '말'을 하는 이유는 무언가를 원하기 때문이라고 합니다. 아쉬운 것이 없으면 그냥 침묵할 테죠. 특히 아이들의 말에서는 분명한 의도가 느껴지죠. 그리고 그런 욕구가 어떤 점에는 개개인의 이해를 구성하는 것 아닐까, 저는 생각합니다. 챗gpt가 내놓는 답에는 '답을 내놔야 한다'는 목표 말고는 의도랄 게 없어 보입니다. 흔히 '영혼 없는 말' '형식적인 말'을 한다고 핀잔하곤 하는데.. 인공지능의 생성물에도 의도가 담겨 있지 않기 때문에, 저는 인간의 것과 다르다고 생각해요.(너무 주관적인 생각일까요^^; 어렵네요.) 여러분의 생각은 어떠신가요?
[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!
D-29
편향이 입력되면 편향이 출력된다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.161, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
AI가 편향성이 최대한 없어질 수 있도록 다양한 데이터를 넣어서 공정하게 만들도록 해야할 것 같다는 생각이 들었습니다.
OCR (광학문자인식)의 경우, 책에 있는 글자를 인식하는 것 뿐만 아니라 캘리그라피(calligraphy)의 문자도 잘 인식할 수 있어야 하고 여러 사람의 손글씨도 잘 인식 할 수 있어야 문자인식의 정밀도가 높아집니다.
보편적인 데이터 뿐만 아니라 이상값(outlier)의 데이터가 많을 수록 AI도 좀 더 공정해지지 않을까 생각해 봅니다.
데이터의 편향성 문제는 이 책에서 중요하게 다루는 주제 중 하나입니다. 말씀하신 것처럼 이상값의 데이터들이 충분히 포함되면 이 문제를 완화할 수도 있겠다는 생각도 듭니다. 한편으로는, 기존 데이터의 편향을 제거하는 방법도 시도되는 것 같습니다. 예를 들면, 기존 데이터에서 우리가 사회적 차별로 인식하는 범주(인종, 지역, 성별, 학력 등)의 값을 통계적으로 지운 데이터로 AI를 학습하는 방법입니다. 저희가 읽지 않은 6장에서 다루겠지만, 신장 이식 대상자를 고르는 AI의 경우에는, 그 선정 기준에 대한 시민들의 판단을 설문 조사해서 그것을 데이터로 활용하는 방법을 제시하고 있습니다. 특정 이슈에 맞춤 설계된 데이터를 확보하는 것인데, 방대하고 편향 없는 데이터를 구하기 힘든 경우라면 꽤 현실적인 방안으로 보였습니다.
인간과 사회 구조가 편향된 경우가 많고, 인간이 설계하고 제작하는 AI에 그러한 편향이 쉽게 내장되기 때문이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.161, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
앞서 @오늘하루도 님께서 수집해주신 대목과도 통하는 부분인데요, AI로 출력되는 결과의 편향성 문제를 통해 인간 사회의 편향성에 대해서 다시금 주목하게 됩니다. 편향된 데이터 혹은 그로 인해 도출된 결과는 어떻게 제어하거나 수정할 수 있을까요? 부족한 데이터 파이를 모은다고 하면 돈도 돈일뿐더러 개인정보의 문제를 안아야 하겠고요. 어떤 그룹에 대한 통계가 유의미한 것은 맞더라도 이를 근거로 개인의 미래까지 판단할 수 있는가 하는 문제도 심사숙고해보아야 할 것 같습니다.
모형은 인종과 같은 '보호' 특징을 포함하여 각 특징에 대한 '가중치'를 학습하게 된다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.180, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
사람의 역사와 마찬가지로 끈임없이 사회의 차별을 시정하려는 사람들의 선한 의도와 노력을 통해 AI에게 주어진 편향성을 보정할 수밖에 없겠다는 생각이 듭니다.
예 청명하다님 고민에 동감합니다. 공정한 사회를 만드는 것은 모든 공동체의 목표일 것 같습니다. 저자들이 AI 개발자들에게 윤리적인 고민을 거듭 요청하는 것도, 새롭게 떠오르는 '도덕적인 AI 기술'(인간의 도덕적 판단을 보조하는 의사결정 도구)에 주목하는 것도 일종의 공동체를 위한 책임으로 보입니다. 저자들은 이런 기술의 도입이 사회를 더 공정하게 만들 수 있을 것이라고 기대하는데, 그렇게 사회가 공정해지면 그 공동체의 편향성도 줄어들고, 결국 선순환이 일어날 수 있을 것 같네요.^^; 저는 '도덕적인 AI'가 여느 공학기술 못지않게 강력한 기술로 보이는데, 우리 사회에 많은 생각거리를 던져주기 때문인 것 같아요. 사실 이 부분은 책의 하이라이트에 해당하는데, 내일부터 3주차 읽기로 시작하는 6장을 미리 읽어보셔도 좋을 것 같습니다!
우리는 아직 모든 상황에서 AI를 공정하게 적용하는 방법 을 찾지 못했다. 하지만 적어도 AI는 해결되어야 할 불공정성이 무엇인지 드러내고 있다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.189, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
화제로 지정된 대화
어느새 독서모임 3주차가 밝았습니다. 시간이 성큼성큼 흘러가는 것 같습니다. 이번 주에는 6~7장(+결론)을 읽습니다(아직 앞 장들을 읽고 계신 분들도 있을 텐데요, 조금만 더 힘내주시고 읽은 내용에 관해 편하게 말씀해주세요~).
앞에서 AI의 안정성, 프라이버시, 공정성과 관련된 도덕적 문제를 다뤘는데, 이제 이 책에서 핵심이 되는 6장을 읽을 참입니다. 6장은 AI가 그와 같은 윤리적 문제들을 식별하도록 학습시키려면 어떤 방법을 쓸 수 있을지 설명하는 내용입니다. 하향식 접근법(높은 수준의 도덕 원칙을 제시하고, AI가 그 원칙을 구체적인 사례에 적용하는 방식: 가령 ‘거짓말을 하면 안 된다’ 등)과 상향식 접근법(인간이 도덕적으로 선하거나 악하다고 판단하는 행동과 결정을 구체적인 사례를 통해 학습하는 방식) 두 가지 방식이 설명되고, 저자들은 두 접근법의 장점을 취하고자 합니다. 책은 신장 이식 대상자의 우선순위를 선정하는 시스템을 자세히 설명하면서 ‘도덕적인 AI’의 실현 가능성과 확장 가능성을 보여줍니다.
12장은 우리 사회와 AI 제작자들이 인공지능을 윤리적으로 사용하기 위해 참고할 수 있는 지침을 제시하고 있습니다. 기술의 보급, 조직 관행, 교육, 시민 참여, 공공 정책 등의 주요 영역에서 꼭 필요하다고 보는 지침들인데, AI 개발자나 정책 입안자, 교육자들에게 요긴한 내용일 것 같습니다. 이번 3주차 내용을 살펴보면서, ‘도덕적인 AI’ 기술을 궁리하는 저자들의 마음 바탕에는 비단 AI 기술에 대한 안전한 사용뿐 아니라, 우리 사회가 더욱 성숙한 방향으로 나아가길 바라는 마음이 담겨 있음을 느낍니다.
독서 모임을 시작했던 첫 주는 꽤 쌀쌀했던 것 같은데, 이제 봄꽃이 한창이고 낮에는 더운 기운도 물씬합니다. 이 책을 다소 딱딱하고 어렵게 느끼셨을 분들도 있을 것 같지만, 마지막까지 힘내주시고 완독의 즐거움을 맛보시면 좋겠습니다!
문제는 우리가 기술을 추구했는지의 여부가 아니라 기술을 추구한 방식에 있다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.315, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
수집해주신 부분을 저도 한 번 더 밑줄을 긋습니다!
우버의 AI에 도덕적인 책임이 있을까? 일부 제한적인 측면에서 그럴 수 있다는 것이 우리 셋의 공통된 생각이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.219, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
앞에서 차근차근 쌓아왔던 AI에 대한 지식들을 바탕으로 책의 제목인 '도덕성'을 따지는 6장이네요! AI를 만든 사람, 허가한 사람이 아니라 AI 자체에 책임을 물을 수 있는가 질문합니다. 생각지 못했던 부분인데, 아직 저에게는 AI가 '기계'나 '소프트웨어' 정도로 인식되었나봐요. AI가 인간처럼 판단하고 행동할 수 있다면 마찬가지로 책임도 부과할 수 있다는 게 자연스러운데 말이죠.
한 가지 제안은 인간의 도덕성을 충분히 연구하여 AI에 인간의 도덕성을 탑재하는 것이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일 곱 가지 물음』 p.228, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
전반적으로 말해서 우리 방법의 목표는 사람들과 AI 시스템이 더 나은 도덕적 판단을 내리고 인간의 도덕적 가치에 부합하는 방향으로 행동하도록 보조하는 것이다.
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.255, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
도덕적 AI 개발과 관련해 본문에 등장하는 '코 만지기' 게임의 비유가 굉장히 적절하네요. 누가 시간적, 금전적 손해를 감수하고 도덕적 AI를 만들 것인가? 일단 나는 아니다...AI가 기업의 영역을 넘어 사회 전반에서 다루어야 할 문제라는 점을 저자들이 명확하게 짚어주어 좋았습니다.
예 '코 만지기' 게임이 맞을 것 같아요. AI 기술의 상업적 가치가 높아지면서, 수익 창출이 급한 기업들로서는 AI 상품을 빨리 출시하고 싶은 유혹이 강할 테죠. 윤리적 영향을 꼼꼼히 따져보자는 주장은, 지금은 경쟁에 뒤처지면 안 된다는 기업문화에 묻히기 십상일 테고요. 하지만 그 부작용이 제대로 평가되지 않으면 사회가 그 비 용을 치러야 하고, 기업에도 큰 리스크가 되겠죠. 이 부분은 제도적 노력이 중요할 것 같아요. 한국에서도 AI윤리 영향평가에 대한 논의가 점차 활발해지는 것 같은데, 기술 경쟁력과 사회의 안전성을 모두를 균형 있게 고려할 수 있는 좋은 평가 시스템이 만들어졌으면 합니다.
https://blog.naver.com/kisdi_pr/223764437437
“ 많은 경우 린-애자일 방법은 이 문제를 악화한다. 윤리 문제를 해결하기 위한 계획이 ... 조직 환경에서 일반적으로 기대되는 린-애자일 제품 주기 완료 속도 수준으로 기존의 다른 지표들을 향상시키지 못한다고 해보자. 그렇다면 윤리 문제는 결국 현실의 영감이 아니라 발전을 저해하고 직업 안정성에 위협이 되는 것으로 간주될 가능성이 높다. ”
『도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음』 p.273, 월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다