[김영사/책 증정] 기계가 인간의 실수를 바로잡아준다? <도덕적인 AI> 함께 읽어요!

저자가 짚은 것처럼 지금은 충분히 지능적이지 않은 AI를 어떻게 시정할 것인가?에 대한 대응과 방안을 고민해야 하는 단계네요. 영화에서 다루어지는 인간을 넘어선 AI는 아직 추상적이고, 불안감을 조성하지 구체적인 실천방안을 주는 눈 앞의 문제는 아니라는 생각이 들었습니다.

AI를 사용한들 결국은 사람이 관리감독을 해야 한다는 게 주된 문제로 읽히네요. 일과 일에 따르는 육체적정신적인 부담을 AI로 대체하려고 하는 건데, 지금 상황에서는 AI를 만들면서 그보다 더 똑똑한 사람이 필요해졌네요(AI 작동 방식, 구현하는 기계도 알고 동시에 투입되는 분야의 전공지식도 알아야 하는). 그런데 AI 사용으로 인해 사람의 숙련도는 낮아지고..

청명하다님, 맞아요. AI를 사용할 때 사람의 역할이 여전히 중요하다고 보는 것 같아요. 그런데 저자들은 AI가 사람들의 손에 관리되고, 감독될 수 있는 지금의 상황이 어쩌면 다행일지도 모른다는 얘기를 해요. AI가 우리의 통제에서 벗어나는 상황이 되면 매우 심각한 일이 벌어질 수 있다는 거죠. 그러니까 AI윤리에 대한 담론이 활발해지는 지금이 중요한 순간이라고 보는 것 같아요. 이 시기를 놓치기 말고 신중하게 제도적, 기술적 장치들을 마련해야 할 테죠.

말씀해주셨듯이 지금이 바로 AI에 대해 사회적 차원에서 집중적으로 검토해야 할 시기인 것 같습니다. AI는 물론이고 포스트코로나, 플랫폼노동, 데이터사회, 기후위기 등 여러모로 이전의 모더니즘 체제에 균열이 일고, 다음 세상에 대해 고민을 해봐야한다는 이야기가 제기되고 있으니 말이죠. 그렇지만 자유주의에서 개인에게 책임이 쏠리다보니 이런 생각을 모을 여유조차 없어보이는 것도 사실이에요.

영화에서나 나올 법한 일들이 실제로 현실화되고 있다는 것을 새삼 깨닫습니다. 이것이 우리의 안전을 위한 일일지 프라이버시를 침해하는 것일지, 쉽게 둘 중 무엇이라고 말하기 어려운 것 같습니다.

보통 인간은 부지불식간이든 일부러든 편향된 사고와 결정을 하기도 하는데 인간이 만든 AI도 마찬가지로 편향된 데이터로 학습하면 편향된 결정을 내릴 수 있는 것 같습니다. 그것의 파급력이 더 커질 것이기 때문에 공정한 AI를 만들고 그것의 결정이 공정하게 이루어질 수 있도록 하는 것이 중요할 것 같습니다.

AI의 편향성 문제는 꽤나 중요한 부분인 것 같아요. AI가 학습하는 데이터는 사회로부터 추출되는데, 그 사회 자체가 구조적으로 편향적이라면,편향된 결과를 양산한다는 거죠. 이 경우 AI는 불평등을 합리화하고 양산하는 도구가 되는 거죠.ㅠ AI를 어떤 데이터로 학습할지, 또는 기술적으로 어떻게 데이터의 편향성을 교정할지는 중요한 문제가 될 것 같아요.

AI가 직접적으로 프라이버시를 침해하는 부분말고도 개인정보를 수집하는 생태계의 형성과 같은 간접적인 환경 조성도 짚어줘서 유익하네요. AI 시장을 바라보는 인사이트를 얻어갑니다.

좀 뒤처졌습니다만, 서론과 1장을 재미있게 읽었습니다. 인공지능이 무엇을 이해한다는 게 어떤 것인가를 인간의 이해 방식과 비교해 설명하는 대목이 개인적으로는 흥미롭더군요. 대형언어모델이 “마치 개념처럼 작동하는 학습된 상관관계의 그물망 내부에 ‘숨겨진 인과 모형‘을 만들었을 가능성은 분명히 존재”하는데, “그 존재 가능성을 시험할 방법은 아직 없다”(68쪽)는 것도요. 반대로, 인간의 이해란 것도 통계적 상관관계 접근법에 따른 이해 정도에 머무는 경우도 많지 않을까 하는 쓸데 없는 생각도 해봤습니다. 1장 말미에서 간단히 설명한 AI 개발 단계(알고리듬 개발, 모형 훈련, 제품화)별 주체와 그 역학관계가 앞으로의 논의에서 어떤 참조점이 될지도 자못 궁금해집니다.

저도 이 책에서 매우 흥미를 느낀 대목입니다. "인간의 이해란 것도 통계적 상관관계 접근법에 따른 이해 정도에 머무는 경우도 많지 않을까"라는 물음도 여러 가지 생각거리를 주는 질문일 것 같아요. 인간이 무언가를 ‘이해한다’는 행위는 단순한 정보 처리라기보다는 욕구에서 출발한 의미 구성 과정으로 볼 수 있다는 주장을 봤어요. 다른 얘기지만, 예전에 최재천 교수가 동물이 상대에게 '말'을 하는 이유는 무언가를 원하기 때문이라고 합니다. 아쉬운 것이 없으면 그냥 침묵할 테죠. 특히 아이들의 말에서는 분명한 의도가 느껴지죠. 그리고 그런 욕구가 어떤 점에는 개개인의 이해를 구성하는 것 아닐까, 저는 생각합니다. 챗gpt가 내놓는 답에는 '답을 내놔야 한다'는 목표 말고는 의도랄 게 없어 보입니다. 흔히 '영혼 없는 말' '형식적인 말'을 한다고 핀잔하곤 하는데.. 인공지능의 생성물에도 의도가 담겨 있지 않기 때문에, 저는 인간의 것과 다르다고 생각해요.(너무 주관적인 생각일까요^^; 어렵네요.) 여러분의 생각은 어떠신가요?

AI가 편향성이 최대한 없어질 수 있도록 다양한 데이터를 넣어서 공정하게 만들도록 해야할 것 같다는 생각이 들었습니다. OCR (광학문자인식)의 경우, 책에 있는 글자를 인식하는 것 뿐만 아니라 캘리그라피(calligraphy)의 문자도 잘 인식할 수 있어야 하고 여러 사람의 손글씨도 잘 인식 할 수 있어야 문자인식의 정밀도가 높아집니다. 보편적인 데이터 뿐만 아니라 이상값(outlier)의 데이터가 많을 수록 AI도 좀 더 공정해지지 않을까 생각해 봅니다.

데이터의 편향성 문제는 이 책에서 중요하게 다루는 주제 중 하나입니다. 말씀하신 것처럼 이상값의 데이터들이 충분히 포함되면 이 문제를 완화할 수도 있겠다는 생각도 듭니다. 한편으로는, 기존 데이터의 편향을 제거하는 방법도 시도되는 것 같습니다. 예를 들면, 기존 데이터에서 우리가 사회적 차별로 인식하는 범주(인종, 지역, 성별, 학력 등)의 값을 통계적으로 지운 데이터로 AI를 학습하는 방법입니다. 저희가 읽지 않은 6장에서 다루겠지만, 신장 이식 대상자를 고르는 AI의 경우에는, 그 선정 기준에 대한 시민들의 판단을 설문 조사해서 그것을 데이터로 활용하는 방법을 제시하고 있습니다. 특정 이슈에 맞춤 설계된 데이터를 확보하는 것인데, 방대하고 편향 없는 데이터를 구하기 힘든 경우라면 꽤 현실적인 방안으로 보였습니다.