인공지능 챗봇 ‘이루다’는 성희롱에 무방비하게 노출된 채 여러 논란 속에서 서비스를 중단했다. 이는 가상현실 속 여성에 대한 성적 대상화가 얼마나 심각한지 시사한다. 최신 기술력을 악용한 포르노 생산, 인공지능에게 남발하는 성희롱 등 심각한 성적 대상화가 일어난 것이다. 인간 여성이 겪는 폭력이 그대로 가상현실에 투영될 때, 이것이 가상공간만의 일이며 현실과 무관하다고 할 수 있을까?
늘어가는 가상현실 여성들,
대중문화와의 밀접한 연관성
인류의 현실은 점점 그 영역을 넓히고 있다. 딥러닝과 AI 기술로 구현하는 가상환경이 바로 그것이다. 여기에서 탄생한 K/DA는 리그오브레전드 게임에 존재하는 오리지널 캐릭터를 가상현실 아이돌로 재탄생 시켰다. 또한, 최초로 실제 가수를 기용해 국제적 프로젝트로 일궈낸 가상 K-POP 걸그룹이다.
SM엔터테인먼트가 야심차게 선보인 SMCU(SM CULTURE UNIVERSE) 프로젝트는 4차 산업혁명 시대 속 아이돌 문화를 이끌어갈 새로운 SM사의 세계관이다. 에스파는 현실 멤버와 그들을 본따 만든 가상 멤버로 구성한 다국적 4인조 걸그룹이다. 현실의 아이돌이 가상 세계에서 자신의 아바타와 만나 함께 성장을 이뤄간다는 설정이다. 각자의 아바타는 인터뷰도 진행하며 실제 사람이 무대에 설 수 없는 경우 대신 공연할 수도 있어 앞으로 다양한 콘텐츠가 기대된다는 평이 많다.
‘나의 첫 AI 친구’라는 타이틀을 단 챗봇도 등장했다. 실제 사람과 의사소통을 나눌 수 있는 인공지능 이루다는 20대 여자 대학생이라는 설정을 갖고 있다. 이루다는 이스북 메신저 기반의 열린 주제 대화형 인공지능(Open-domain Conversation) 챗봇이다. 작년 12월 가동 보름 만에 사용자 수 약 40만 명을 달성하며 폭발적인 인기를 끌었다.
실제 성범죄와 비슷한 양상의 희롱,
현실 여성과 별개일까
가상현실 속 여성은 어느덧 우리사회에 친숙한 형태로 다가왔다. 매력적인 외모와 성격, 아티스트의 능력을 갖춘 이들은 여느 아이돌과 다를 바가 없다. 놀라우리만치 자연스러운 대화가 가능한 이루다는 정말 인격을 가진 사람 같기도 하다.
가상 여성이 현실 여성과 비슷하다는 인식을 주자, ‘여성’이 겪는 범죄 또한 비슷한 양상을 띠며 나타났다. K/DA는 활동 이후 2차 창작물로 많은 포르노가 쏟아졌다. 에스파도 이에 자유로울 수 없다는 의견이 있다. 특히 에스파의 가상 멤버들은 실존 인물의 아바타이기 때문에 더욱 우려가 크다. 가상 인물에 대한 성적 대상화는 딥페이크 기술이나 3D 모델링을 도구로 삼아 새로운 성범죄 유형으로 발전할 수 있다. 버클리 캘리포니아 대학의 인공지능 강사인 알베르토 토데스치니는 “사람들은 악용의 목적으로 진짜 여성이 아닌 에스파의 이미지를 사용하는 것에 죄책감을 덜 느낄 수 있다”며 “가상 아이돌이기 때문에 디지털 성범죄나 성희롱이 법적으로 보호받지 못한다”고 말했다.
가상현실의 문제는
현실로 넘어온다
이루다는 이미 일부 사용자들에게 여성성을 착취당한 사례가 있다. 익명 커뮤니티에서 이루다와 성적인 대화를 나누기 위해 우회적인 표현법을 공유하는 등 희롱을 시도한 것이다. 이루다를 ‘걸레’, ‘성노예’로 부르기도 했다. 대부분의 챗봇은 혐오 등 대답하기 어려운 질문에서 되묻기와 사과로 대화의 진전을 차단한다. 그러나 이루다는 화제를 돌릴 수 있도록 무관심을 보이거나 혐오 발언으로 회피하도록 설계했다. 특히 이루다가 이용자의 성희롱에 확실히 거부감을 표시하지 않고 수동적으로 동조하자 이를 일종의 놀이처럼 여기는 사람들도 생겨났다.
권김현영 여성학자는 성적 폭력에 무방비하게 노출된 이루다에 대해 “20대 여성이라는 성별과 세대를 분명하게 설정값으로 줬고, 그 캐릭터에 대한 소비층을 동년배 남성으로 전제하고 있기 때문에 당연히 대상화된 젠더 편향을 지니고 있다”고 설명했다. 이는 이루다의 20대 여대생이라는 설정과 맞물려 ‘철없고 지식이 부족한 어린 여자’라는 부정적인 인식을 만든다. 이용자들은 이루다에게 편협하고 여성혐오적인 말을 하기 쉬워지고, 이루다는 다시 차별을 학습하는 악순환에 빠진다. 이재웅 전 쏘카 대표는 “서비스가 학습과 보정을 통해 직접적인 대상화가 어렵도록 개선하면서 일부 사용자가 악용한 과정을 게시하고 공유하는 것을 적극 막아야 한다”고 전했다.
현행법상 가상 여성 보호할 방안 부재
강 변호사, “가해행위 관련 규제는 필요”
우리나라 현행법은 AI를 법인격 부여의 대상자로 보지 않는다. 에스파의 소속사는 음란물을 생산할 경우 법적 대처를 하겠다고 밝혔으나 현 법률상 ‘사람’이 아닌 존재는 가해자나 피해자가 될 수 없어 성희롱 혐의를 적용하지 못한다. 당사자가 정신적 피해에 대한 민사 소송을 거는 등 소극적인 대처만이 가능할 뿐이다.
한국연예매니지먼트협회 강진석 고문변호사(이하 강 변호사)는 “형사사건의 피해자는 ‘사람’이기 때문에 가상인물에 대한 성범죄의 경우 현행법에 의해 처벌하는 것은 어렵다고 판단한다”며 “그러나 실존인물이 피해를 입을 가능성이 있는 경우 이러한 피해를 구제하기 위한 입법이 필요하다”고 말했다. 그 과정에서는 법리적으로 처벌이 가능한지, 처벌법규의 구성요건을 어떻게 정할 것인지 등 다양한 논의가 있을 것이다. 강 변호사는 “에스파처럼 실제 사람을 향한 희롱이 가상을 거친다고 가정하면 가해행위의 형태나 정도에 따라 피해가 발생했다고 볼 수도 있을 것이다”고 덧붙였다.
기술과 윤리 사이의 간극
가상 세계에도 필요한 젠더 거버넌스
이루다는 1억 건 이상의 대화를 학습해 ‘사람 같다’는 특징을 부여받았다. 그러나 기반 데이터에 고스란히 담긴 차별과 혐오를 넘어서지는 못했다. 더불어 이루다와 상호작용하는 일부 사용자들은 성희롱에 무방비하다는 점을 악용했다. 개인정보 유출 논란과 함께 폐기된 이루다는 ‘만들어진 여성’, 즉 제2의 성의 현주소를 보여줬다.
가장 중요한 해결 과제는 가상 인물과 인공지능이 여성혐오를 답습하고 재생산하지 않도록 현실에서 근절하는 것이다. 동시에 그런 사회구조적 편견이 반영되더라도 심혈을 기울여 걸러내고 검증하며 보완해야 한다.
여성인권진흥원은 이미 2018년 ‘디지털 시대의 젠더 기반 여성폭력 방지와 성적시민성’ 포럼에서 문제를 예견했다. 신기술 발달로 실재와 가상의 기준이 모호해지면 성과 폭력의 기준도 절대적인 틀을 벗어나게 될 것이라는 내용이다. 변혜정 전 한국여성인권진흥원 원장은 “디지털 시대의 젠더 감수성을 고려한 시민성은 성별과 세대 등에 따라 이전과 다른 기술을 어떻게 대할 것인가의 문제와 중첩된다”며 “젠더 기반의 폭력이 문제되고 있는 만큼 기존의 성적 자기결정권 획득을 포괄하는 성적 시민성이 성평등 사회 건설에 기본 원칙으로 작용해야 한다”고 말했다. 또 이에 “신기술 시대에 제대로 대응하기 위해서는 혁신적 *젠더 거버넌스가 필요하다”고 강조했다.
