[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!

안녕하세요. 김영사 모임지기 입니다. 많은 분들이 참여해주셨네요. 감사합니다.^^ 요즘 열풍인 지브리 스타일로 <도덕적인 AI>를 만들어봤습니다. 5분쯤 기다리니 이미지가 생성되더군요. 정말 신기했습니다! 본격적인 모임 전이지만, 혹시 시간이 되시는 분들은 서문을 읽으며 저자들의 입장을 살짝 파악해두셔도 좋을 것 같습니다. 기본적으로 저자들의 AI 기술에 대한 입장은 중립적이고, 이 기술의 위험성을 과소평가해서도 안 되지만 과대평가해서도 안 된다고 봅니다! AI로 인해 발생하고 있는 사회 여러 영역에서의 긍정적인 혁신과 부정적인 문제를 나란히 비교해서 제시합니다. '여러분은 어떻게 생각하십니까' 이런 태도입니다. 이 책을 함께 읽을 때는 저자들의 입장을 존중하는 차원에서 좀더 개방적인 태도로 이 기술을 바라봤으면 하는 바람입니다. 이번 주 모임에서 뵙겠습니다! p.s. 위의 챗GPT로 만든 이미지에 관해서 만한 주목할 문장이 있더군요. "이 AI는 그 어떤 허락이나 보상 또는 저작자의 승인도 없이 인간 예술가의 이미지로 훈련된 것이다. 미술품 생성 AI는 이미 제작된 상태이므로, 본인의 작품이 데이터에 포함되길 바라지 않거나 저작권으로 보호되어 있는 인간 예술가들의 작품을 AI가 '잊도록' 만드는 것은 기술적으로 어려운 일이다. 어떤 경우에는 불가능하기도 하다." (20면)

안녕하세요. 북클럽 첫주가 밝았습니다. 이번 주 함께 읽을 곳은 서문부터 2장까지입니다. 책은 전체 7장(+서론과 결론)으로 되어 있는데, 책의 전체적인 주제나 흐름은 미흡하나마 보도자료를 참고하시면 될 것 같습니다. https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=356337303&start=slayer 본문 시작 전에 <들어가며> 글을 보면, 세 명의 저자들은 모두 다른 분야(철학자, 컴퓨터과학자, 데이터과학자)를 연구하고 있다고 밝힙니다. 그리고 “AI의 도덕적 피해를 최소화하면서도 AI 혁신을 증진하는 방법”에 대해 고민하면서 함께 연구했고, 그 의기투합(?)의 결과물이 이 책으로 나왔다고 소개하고 있습니다. 그러니까 이 책에는 저자들 개개인의 고유한 주장과 목소리가 담겨 있기보다는, 그들(또는 그들의 연구팀)이 함께 논의하면서 대체로 합의한 내용을 담고 있음을 알 수 있습니다. 서론은 앞서 소개한 대로, AI 도입 후 사회 전역에서 불거지고 있는 ‘좋은 뉴스’와 ‘나쁜 뉴스’를 분야별로 짤막하게 정리하고 있습니다. 예를 들어, 운송 분야에서는 자율주행차를 통해 시각장애인의 이동권이 확장됐다는 소식은 좋은 뉴스이지만, 자율주행차의 인식 시스템의 오류 때문에 사고가 일어난 것은 나쁜 뉴스라는 식이지요. 생성 이미지를 만드는 AI가 예술가의 저작권을 침해할 수 있다는 우려도 언급되고 있습니다. 앞으로 이 책에서 중심적으로 다루게 될, AI 윤리적 문제(안전성, 공정성, 프라이버시, 자유, 투명성, 기만) 등에 대해 미리 보여줍니다. 1장에서는 인공지능은 무엇인지, 저자들이 제안하고 있는 정의를 제시하고, 일반적으로 사용하고 있는 다양한 용어와 개념들의 차이를 설명합니다. 저자들은 AI가 해결해야 하는 임무를 수학적으로 서술하는 방법, 임무를 수행할 때 활용할 수 있는 데이터를 찾는 일이 오늘날 AI 개발자들의 중요한 과제라고 봅니다. 특히 AI를 학습시키는 다양한 방법들이 소개되고 있는데, 저자들은 이런저런 유형들의 AI가 계속 등장하는 이유가 개발자들도 최선의 AI를 찾는 중이기 때문일 거라고 합니다. 2장에서는 오늘날 AI를 둘러싼 안전 문제를 목록으로 보여줍니다. 군사, 의료, 소셜미디어 등 꽤 현실적이고 흥미로운 사례들이 많습니다. 특히 AI를 너무 신뢰하면서, 인간 전문가의 숙련도가 떨어지고, AI의 실수를 알아채거나 바로잡는 데 어려움을 경우들이 등장하고 있다는 점이 정리되어 있습니다. (너무 모임지기의 말이 많은 것 같습니다.^^;) 앞으로 책을 읽으면서 인상이 깊었던 대목, 들었던 의문 등을 편하게 들려주세요. AI 사용자로서의 경험(지금 어떤 AI를 이용하고 있으신가요? 또는 AI와 관련해서 곤란한 일이 있으신가요?)도 좋고, AI 학습자나 개발자로서의 경험이나 실수도 좋습니다. 그리고 지금의 AI 열기에 대해 어떤 생각이 드시는지도 궁금합니다. 여러분들의 흥미진진한 이야기들이 기대됩니다.