성범죄 처벌 관련법 조속 개정해
게시물 제작자 처벌근거 마련하고
보다 강화된 교육과 예방대책을
최근 22만여 명이 참여 중인 텔레그램 채널에서 딥페이크(인공지능 기반 이미지 합성) 성범죄물이 확산된 사건이 우리 사회를 뒤흔들고 있다. 초·중·고교생에서부터 대학생까지 피해는 갈수록 커지고 있다. 높은 보안성과 익명성으로 인기를 얻고 있는 글로벌 메신저 플랫폼 텔레그램(Telegram)의 채팅방에서 참여자들이 AI프로그램으로 지인의 사진 속 모습이 옷을 벗고 있는 것처럼 가짜 이미지를 생성하는 등 가해자가 딥페이크 성범죄물 제작 프로그램을 만든 뒤, 텔레그램을 비롯한 소셜미디어(SNS) 등으로 프로그램 채팅방 링크를 유포해 이용자들을 초대하고 있다. 이들은 여성이 소셜미디어에 올린 일상 사진을 공유해 성범죄물을 제작하고, 여성의 신상정보를 게시하기까지 한다.
딥페이크(Deepfake)는 ‘딥 러닝’(Deep Learning)과 ‘페이크’(Fake)의 합성어로 특정 인물의 얼굴이나 목소리를 인공지능(AI)을 이용해 영상이나 음성에 합성해 실제인 것처럼 보이게 만드는 기술을 의미한다. 기술이 대중화되면서 스마트폰 어플리케이션(앱)을 활용해 초보자도 쉽게 딥페이크 사진과 영상을 만들 수 있다.
지난 6일 오후 7시 서울 종로구 보신각 인근에서 딥페이크 성폭력에 반대하는 시민들이 한자리에 모여 구호를 외쳤다. 이들은 최근 텔레그램을 중심으로 허위 성착취물을 무분별하게 제작·유포하는 성범죄를 규탄하며 정부와 플랫폼 사업자들의 적극적인 대응을 촉구했다. 이날 집회는 한국여성의전화, 한국사이버성폭력대응센터 등 144개 단체가 공동 주최했다.
딥페이크 문제는 허위정보, 피싱 등 사기, 성범죄의 악용 등으로 구분할 수 있는데, 기만을 목적으로 한 허위정보는 정치적 음해의 도구로도 쓰인다. 지난해 조 바이든 미국 대통령이 “트랜스젠더는 여성이 될 수 없다”는 혐오발언을 하는 영상이 유포돼 논란이 된 사례가 대표적이다. 도널드 트럼프 전 대통령이 격하게 저항하다가 체포되는 사진은 풍자 목적으로 ‘레딧’ 사이트에 올라왔지만 사실로 믿는 사람들이 적지 않았다. 최근에는 카멀라 해리스 부통령을 악의적으로 묘사한 딥페이크 영상과 이미지 등이 논란이 됐다.
딥페이크 성범죄물은 이처럼 손쉽게 제작·유포되지만, 피해자들이 느끼는 충격은 상당하다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “딥페이크 성범죄물은 수위 자체가 너무 높고, 이전처럼 합성 등이 조악하지 않고 너무나 정교해 진짜인지 가짜인지 구별이 안 될 정도로 만들어진다”며 “피해자들은 실제로 자신이 이런 촬영을 당한 것처럼, 그 이상의 치욕적인 감정을 느낀다. 단순한 ‘가짜’ 정도의 피해가 아니다”라고 전했다. 한편 교육당국은 학생들에게 ‘SNS 메신저에서 프로필 사진을 지우라’는 지침을 내렸다. 2030세대에서도 SNS 계정을 비공개로 설정하거나 올렸던 프로필 사진을 지우는 이들이 증가하고 있다.
우리 사회가 온라인 성범죄에 노출된 것은 어제오늘 일이 아니다. 이미 2019년 미성년자 등을 협박해 성착취물을 제작한 뒤 비공개 텔레그램 단체 채팅방 등에서 유포하고, 피해자의 신상정보 등을 공유하며 스토킹 및 성폭행하는 등 2중·3중의 범죄를 저지른 ‘N번방 사건’이 폭로된 바 있다.
한국에선 성폭력범죄처벌 특례법에 따라 허위 영상을 유포하는 경우에 한해 처벌하고 있다. 반면 해외에선 유포자뿐 아니라 제작자나 소지자를 처벌하는 방안들이 대안으로 마련되고 있다. 지난달 미국 캘리포니아주 의회를 통과한 인공지능 규제법에 ‘아동 성착취물 제작’ 등에 인공지능을 활용한 범죄 행위를 규정하고 처벌하는 내용이 있다. 이 법에 따르면 딥페이크 아동 성착취물 제작자뿐 아니라 배포, 소지자도 처벌 대상이 된다. 우리 국회와 정부도 사안의 심각성을 인지하고 딥페이크 성범죄에 대한 처벌 강화를 추진해, 딥페이크 게시물을 유포한 사람뿐만 아니라 제작자도 처벌 대상에 포함하도록 법을 보완하고, 텔레그램과 협력해 불법 정보를 자율 규제할 수 있도록 해야 한다.
한편 보다 나은 교육과 예방대책도 마련해야 한다. 어릴 때부터 주입식이 아닌 다양한 체험, 토론형 교육을 통해 딥페이크 기술의 위험성과 성범죄의 법적 책임에 대한 교육 프로그램을 운영하고, 인터넷상에서의 윤리적 행동과 책임감을 강조하고 올바른 인터넷 사용 습관을 길러줘야 할 것이다.
구자록 전 울산정보산업진흥원장