전화가 울린다. 해외로 유학간 딸에게서 온 전화. 받자마자 익숙하고도 그리운 목소리가 들린다. 하지만 무언가 겁에 질린 듯 떨리는 목소리. 이윽고 딸이 흐느끼며 말한다. “엄마 나 좀 살려줘...” 심장이 철렁한다. 무슨 일이냐며 물어보자 돌아오는 건 낯선 남자의 부름. “아줌마, 딸 살리고 싶지 그럼 당장 돈 입금해” 딸이 울면서 애타게 나를 부른다. 차마 외면할 수 없었다.
위의 사례는 최근 급증하고 있는 AI 보이스피싱의 과정을 재현한 것이다. 기존 보이스피싱 수법과 달리, AI 보이스피싱은 딥페이크 또는 음성 재현과 같은 신기술을 사용한다. 5초 분량의 목소리 표본이 있다면 누구든 변조 음성
을 만들 수 있다. 금융감독원에 따르면 지난해 보이스피싱 피해액은 1,965억 원에 달한다. 전년 대비 무려 35.4%p가 증가한 금액이다. 주로 50대 이상을 대상으로 일어나던 보이스피싱 사기는 20·30대 피해자가 전체 연령의 약 22%를 차지할 정도로 매우 교묘해졌다.
AI 기술은 사용자의 설정에 따라 표정과 몸짓, 심지어 목소리까지 원하는대로 바꿀 수 있다. 빠른 인식과 적용이 가능해 접근성이 우수한 동시에 개인정보를 침해하기도 쉽다. 익명으로정보 공유가 가능한 사회에서 AI 기술이 일으키는 문제를 바로잡기 어려워지고 있다. AI 기술의 활성화로 사회에서 우선으로 보호받아야 할 아동·청소년이 성범죄의 표적이 되고 있다. 지난해 9월 딥페이크를 악용해 아동·청소년 성착취물을 제작한 40대 남성을 필두로 유사한 성범죄 피해가 증가하고 있다. 아동·청소년 성착취물은 성(性)인식을 왜곡하고 또다른 성범죄 사건으로 유발할 수 있으며, 보이스피싱의 미끼 역할을 하는 등 2차 피해도 야기할 수 있다.
최근 카카오, 네이버 등의 포털 플랫폼은 성착취 관련 검색어를 청소년 보호 검색어로 추가했다. ‘텔레그램’과 같이 불법 합성물 유포가 활발한 플랫폼에 대해 경찰의 적극적인 감시가 이루어지지 않는다면 제재할 만한 수단이 없다. AI 보이스피싱 역시 사전에 예방하는 방법은 일상적인 ‘의심’뿐이다. 결국 수용자이자 피해자의 자발적인 주의가 전부라는 것이다.
지금의 AI 기술은 안전장치가 없는 놀이기구와 같다. 정지가 불가능한 상태에서 시작하기 위해서는 그에 따른 책임도 짊어져야 한다. 명확한 AI 사용 규제를 부여하거나 AI 연관 범죄에 대해 처벌을 강화해야 한다. 실제로 지난 2월 8일, 미국의 연방통신기관(FCC)은 AI 음성을 사용하는 마케팅 전화, 일명 ‘로보콜’을 불법으로 규정했다. 더불어 AI가 대중화된 만큼, AI 기술 악용의 심각성을 제대로 인지하지 못하는 아동과 신기술에 적응하기 힘든 고령층을 위해 AI 안전교육을 의무화해야 한다. 더 이상 안전띠가 없는 차는 필요 없다.
