끌 수 있...다고 믿고픈 발등의 불

 '인공지능 윤리', 전부 아는 단어의 조합임에도 불구하고 그 실체는 머릿속에서 아직도 애매하니 일단 읽는다. 첫 질문인 '인공지능이란 무엇인가'에서는 약간 고개를 갸웃거리게 되는 면도 있음. 최근 챗GPT의 답변 능력에 놀라 숨이 막힐 뻔한 일이 몇 번 있다보니, 틀을 벗어나지 못한다거나 변화에 취약하다고 이 정도로 단정지어도 되는지 의문이다. 단기간 이용해본 일반인과 전문가의 입장이 같을 수 없다는 건 알지만, 그 능력이 엄청나기 때문에 윤리적인 면을 책을 낼 정도로 염려하는 것이 아닌가?

이어지는 여섯 가지 질문들, 분명 모르면 안 되는 이야기들인데 아는 게 병이라고 이 뒷맛 어쩌노. 환경 문제 도서들 볼 때랑 비슷한데, 어떻게 하지 않으면 큰일날 것이 분명한데 개인이 할 수 있는 일에는 한계가 있고, 다 같이 고쳐가는 데는 시간이 너무 걸리며 기업의 이해상충을 따지면 환경 문제보다 더 힘들지도 모르는 과제들 산더미. 존재도 몰랐던 황당한 앱 딥누드처럼 도덕 따위 안 따지는 개발자들의 상품들이 널렸고, 책임 소재가 분명하지 않다는 상황을 더 이용하고 싶어할 회사들도 많겠지. 게다가 노동법을 제대로 지키고 있는지도 의문인 인공지능 개발회사들이 개발팀에 윤리 담당자를 일부러 고용한다는 게 가능할까. 저자들은 우리들이 할 수 있는 일이 많다고, 행동 촉구 제언을 다섯 개나 제시해주지만 마음은 가벼워질 줄 모른다. 도덕적인 면의 피드백을 받는 게 판매에 도움이 된다고 회사가 판단하지 않으면, AI 시민 참여가 과연 작동할 수 있을까?

읽으면서 쓰잘 데 없는 질문이 가장 많이 떠오른 챕터는 '인공지능은 공정할 수 있을까?'. 이제 판사가 참고한 인공지능 자체를 문제 삼거나, 반대로 인공지능의 의견을 판사가 무시했다고 항소하는 일도 생기는 건가? 부정적 편향을 주는 정보를 무시하는 알고리즘을 쓴다는 건 좋지만, 정상참작이 필요한 사건에서 그 배경이 되는 사항들을 다 지워버리게 되면 어떻게 되는 거지? 생각한다고 답이 나올 리도 없고, 당장 우리나라는 어떤가 검색하니 사법부 인공지능위원회와 재판지원 AI 계획이 시작된 게 올해였다. 피할 수 없는 수순이고 오히려 늦은 감도 있지만 참 불안하다. 생각하고 싶지 않지만, 인공지능이 완전히 도입된 이후에 일부러 공정하지 않은 알고리즘을 누가 삽입한다면...그런 일이 없도록 함께 생각하고 노력하자고 이런 책이 나온 것이겠지. 더 읽고 인공지능에 대한 구체적인 이해도가 높아지면 불안이 줄어들고 용기가 생길까? 여러 시행착오는 피할 수 없어도 분명 좋은 쪽으로 굴러갈 기술에 대해 내가 너무 믿음이 없는 걸까? 물음은 끝날 줄 모른다.

"정리하자면, AI에 비관적일 수밖에 없는 이유를 무시하거나 AI 의 부정적 영향은 필연적인 결과이므로 해결할 방법이 없다고 자포자기할 유인이 많다.

우리는 결코 이런 생각을 받아들여선 안 된다. 부도덕적이라고 예측되는 행동을 피함으로써 스스로 도덕적인 규제를 가하는 AI를 만드는 것은 가능하다. 물론 그러기 위해서는 인내심과 헌신적인 연구가 뒤따라야 한다. 그리고 규제, 조직 관행, 교육 자원, 민주적인 기술을 설계함으로써 AI가 해롭고 부도덕한 방식으로 사용될 가능성을 낮출 수도 있다. 이러한 일을 최선의 방식으로 수행하기 위해서, 우리는 AI 시스템 작동에 대한 과학적인 이해의 수준을 높이고 인류에게 해악이 아닌 이득을 가져다주는 방법에 대한 이해를 심화시킬 수도 있다. 이는 AI 시스템의 범위를 확장하고 더욱 강력하게 만드는 일과는 다르지만, 역시 즐겁게 참여할 수 있는 매우 흥미로운 과학적 탐구다. 심지어 인간의 지능과 의식에 대한 오랜 수수께끼를 풀 수 있는 통찰을 얻게 될지도 모른다."