[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!

우주먼지밍님처럼, 별 생각 없이 쓰는 AI 도구들을 통해 개인정보가 빅테크 기업으로 들어가고, 그 정보가 이런저런 상업적 목적에 쓰인다고 생각하면 괜히 찝찝한(?) 기분입니다. 책을 보면, 빅테크 기업들은 사람들의 데이터를 다른 기업들에 대규모로 '공유하는 형식'을 빌려서 법망을 피한다고 합니다. 최근 챗gpt를 이용해 수많은 사람이 지브리풍의 생성형 이미지를 7억 장 넘게 만들었는데, 그때 올렸던 개인들의 사진 데이터가 과연 어떻게 사용될지는 아무도 알 수 없을 것 같습니다. ㅠ 다만, 책에는 AI윤리 관점에서 정부기관이 대책을 마련해야 한다고 주장하고 있긴 한데, 그 해법을 구체적으로 제시하고 있진 않은 것 같습니다. 아마도 저자들은 이런 프라이버시를 둘러싼 논쟁점을 갈무리해서, 지금 문제가 되는 것이 무엇인지 보여주는 역할에 충실하려는 것 같아요.

오! 1주차를 읽으면서 저는 생각보다 쉽게 쓰였다고 느꼈습니다 :) 물론 분야가 달라서 생소한 용어나 개념도 있지만, 번역서라고 생각이 들지 않을 정도로 매끄럽고, 단락별로 구분해주셔서 논쟁 지점들이 명확하게 눈에 들어왔거든요. 게다가 실제 사례에 기반을 두고 있어서 현학적이지 않은 것이 가장 큰 장점이라고 생각합니다. 주말에 2주차 진도 열심히 나가볼게요~

2장을 보면 전문성을 지닌 AI를 컨트롤한다는 것이 얼마나 어려운지 새삼 깨닫게 되네요. 요즘 SNS를 보면 AI로 만들어낸 인물이 등장하는 영상이 종종 보이는데, 말하는 내용은 이상하더라도 사람은 정말 자연스러워서 깜짝 놀랄 때가 있습니다. 다양한 사례가 나와서 흥미로웠어요^^

AI에 대한 신뢰가 깊어길수록, 특히 전문 영역에서 실패하는 사례들이 등장하고 있죠. "기계가 틀리겠어"라는 생각 때문에, 인간은 자신의 경험과 판단력을 물리고 AI의 선택을 따르게 되는 거죠. 그 결과 AI 시스템이 의사나 항공기 조종사 등 전문직종에서 인간의 숙련도를 낮추는 악영향도 있다고 합니다. 최근 뉴스를 보니 학생들이 자신의 과제를 AI에게 맡기면서 "생각을 외주화"한다는데, 장기적으로 인간의 지적 능력에 어떤 영향을 줄지도 좀 걱정이 됩니다.ㅠ

저자가 짚은 것처럼 지금은 충분히 지능적이지 않은 AI를 어떻게 시정할 것인가?에 대한 대응과 방안을 고민해야 하는 단계네요. 영화에서 다루어지는 인간을 넘어선 AI는 아직 추상적이고, 불안감을 조성하지 구체적인 실천방안을 주는 눈 앞의 문제는 아니라는 생각이 들었습니다.

AI를 사용한들 결국은 사람이 관리감독을 해야 한다는 게 주된 문제로 읽히네요. 일과 일에 따르는 육체적정신적인 부담을 AI로 대체하려고 하는 건데, 지금 상황에서는 AI를 만들면서 그보다 더 똑똑한 사람이 필요해졌네요(AI 작동 방식, 구현하는 기계도 알고 동시에 투입되는 분야의 전공지식도 알아야 하는). 그런데 AI 사용으로 인해 사람의 숙련도는 낮아지고..

청명하다님, 맞아요. AI를 사용할 때 사람의 역할이 여전히 중요하다고 보는 것 같아요. 그런데 저자들은 AI가 사람들의 손에 관리되고, 감독될 수 있는 지금의 상황이 어쩌면 다행일지도 모른다는 얘기를 해요. AI가 우리의 통제에서 벗어나는 상황이 되면 매우 심각한 일이 벌어질 수 있다는 거죠. 그러니까 AI윤리에 대한 담론이 활발해지는 지금이 중요한 순간이라고 보는 것 같아요. 이 시기를 놓치기 말고 신중하게 제도적, 기술적 장치들을 마련해야 할 테죠.

말씀해주셨듯이 지금이 바로 AI에 대해 사회적 차원에서 집중적으로 검토해야 할 시기인 것 같습니다. AI는 물론이고 포스트코로나, 플랫폼노동, 데이터사회, 기후위기 등 여러모로 이전의 모더니즘 체제에 균열이 일고, 다음 세상에 대해 고민을 해봐야한다는 이야기가 제기되고 있으니 말이죠. 그렇지만 자유주의에서 개인에게 책임이 쏠리다보니 이런 생각을 모을 여유조차 없어보이는 것도 사실이에요.

영화에서나 나올 법한 일들이 실제로 현실화되고 있다는 것을 새삼 깨닫습니다. 이것이 우리의 안전을 위한 일일지 프라이버시를 침해하는 것일지, 쉽게 둘 중 무엇이라고 말하기 어려운 것 같습니다.

보통 인간은 부지불식간이든 일부러든 편향된 사고와 결정을 하기도 하는데 인간이 만든 AI도 마찬가지로 편향된 데이터로 학습하면 편향된 결정을 내릴 수 있는 것 같습니다. 그것의 파급력이 더 커질 것이기 때문에 공정한 AI를 만들고 그것의 결정이 공정하게 이루어질 수 있도록 하는 것이 중요할 것 같습니다.