최근 정보·통신 기술을 활용한 인공지능(AI)을 이용, 사진이나 영상을 조작해 생성·유포하는 '딥페이크(Deepfake)' 범죄가 전국적으로 크게 늘면서 관계 당국들이 대책 마련에 부심하고 있다. 딥페이크는 '딥러닝(Deep Learning)'과 가짜를 의미하는 '페이크(Fake)'의 합성어로 기존의 사진·영상을 다른 사진·영상에 겹쳐서 만들어 내는 인공지능을 기반으로 한 '이미지 합성기술'을 말한다. 

특히 이러한 딥페이크 기술을 이용해 불법 합성물을 제작하고 유포하는 행위가 청소년들 사이에서 급격히 늘면서 경찰과 교육당국은 이를 '사이버 성폭력'으로 규정하고 단속과 처벌에 나서는 등 전국적으로 확산 추세인 딥페이크 범죄와의 전쟁을 선포하고 나섰지만 범죄 증가 속도를 따라잡지 못하는 형국이다.

딥페이크 불법 영상물 관련 범죄 '급증'…올 7월까지 전국 297건, 전북 24건

28일 경찰청에 따르면 딥페이크 불법 영상물 관련 범죄 발생 건수는 2021년 156건, 2022년 160건, 2023년 180건으로 계속 늘고 있으며 올들어 1월부터 7월까지 7개월간 297건으로 증가 속도가 급격히 빨라지는 양상을 보이고 있다. 이에 따라 경찰청은 전국 시·도경찰청과 긴밀히 협업하는 가운데 딥페이크 탐지 소프트웨어를 활용한 분석과 국제공조 등 수사에 필요한 사항을 적극적으로 지원할 예정이다.

또한 딥페이크 대상이 아동·청소년일 경우 아동·청소년성착취물에 해당하므로 청소년성보호법을 적용하여 더욱 엄격하게 대응한다는 방침이다. 이러한 딥페이크를 이용한 불법 영상물 관련 범죄 증가는 전북지역도 예외가 아니다. 

전북경찰청에 따르면 최근 3년(2021~2023년)간 전북지역 내 딥페이크 관련 불법 영상물 신고 건수는 2021년 9건, 2022년 6건, 2023년 1건으로 집계됐지만 올해 1월부터 7월까지 무려 24건으로 늘었다. 이 중 검거된 사례는 2021년 5건·7명 검거, 2022년 3건·6명 검거, 2023년 1건·1명 검거에 이어 올해(1~7월)는 9건·15명으로 늘었다. 이처럼 딥페이크 불법 영상물 신고 건수는 올들어 크게 증가하면서 새로운 범죄로 이어질 공산이 더욱 크다는 지적이다.

전북 딥페이크 범죄자 15명 중 10명 ‘10대’…새로운 범죄 양산 우려

더욱이 도내에서 2021년부터 올 7월까지 검거된 딥페이크 범죄자들 대부분이 10대라는 점에서 우려가 높다. 실제 딥페이크 불법 영상물 관련 도내 검거자들 중 10대는 2021년 7명 중 2명, 2022년 6명 중 2명, 2023년 1명 중 1명, 올해(1~7월) 15명 중 10명이 해당됐다.

전북경찰청 관계자는 “딥페이크 관련 불법 성영상물은 주로 외국에 서버를 둔 텔레그램 채팅방 등에서 범행이 이뤄지는 경우가 많아 공조 수사 요청 시 어려움이 많아 검거가 늦어지는 경향이 있다”며 “딥페이크 관련 불법 성영상물 신고가 계속 늘어나는 추세여서 더욱 신경을 쓰고 있다”고 말했다.

또 경찰 관계자는 “딥페이크 성범죄는 피해자가 피해 사실을 알기 어려워 신고되지 않는 사례가 많다”며 “텔레그램 등의 해외 채팅 어플에서 제작 및 유포되는 경우가 많아 각별한 주의가 필요하다”고 당부했다.

교육부·교육청 “개인정보 노출 방지, 2차 피해 예방” 당부

한편 교육부는 최근 전국 17개 시·도교육청에 '디지털 성범죄 대응 및 예방을 위한 교육 안내 협조 요청' 공문을 보내 학생들이 사이버 공간에서 개인정보를 노출하지 않고, 타인의 정보를 전송하지 않도록 예방교육을 실시해 달라고 주문했다.

교육부는 "최근 불법으로 사진을 합성하는 일명 '딥페이크' 사진 성범죄물이 사이버 공간의 단체 대화방에서 공유되는 사례가 있다"며 "디지털 성범죄가 발생할 경우 즉시 신고기관에 도움을 요청해 피해 확산과 2차 피해를 예방할 수 있도록 해달라"고 덧붙였다.

이에 따라 전북자치도교육청은 29일부터 30일까지 도내 각급 학교 교장, 교감, 담당 교사 2,500명을 대상으로 '딥페이크 이해 및 예방방안'에 대한 집중교육을 실시하기로 했다. 서거석 전북교육감은 27일 “최근 발전하는 인공지능 기반 이미지 합성 기술을 오용한 학교폭력이 증가하고 있다”면서 “사이버폭력 예방을 강화하는 동시에 학교폭력 사안 발생시 신속히 대응해 피해 학생 보호에 최선을 다하겠다”고 말했다.

‘딥페이크 성범죄 피해학교 지도' 등장...특단 종합대책 필요

그러나 급격히 늘어나는 딥페이크 기술 이용 범죄 증가를 줄이거나 막는 데는 역부족이란 지적이어서 특단의 종합대책이 요구되는 시점이다. 

최근 중·고등학생과 대학생들 사이에서 ‘딥페이크 성범죄’가 기승을 부리는 가운데 피해자가 있는 것으로 추정되는 학교들을 지도에서 찾아볼 수 있게 한 ‘딥페이크 피해 학교 지도’까지 등장할 정도다. 27일 개설된 ‘딥페이크 피해학교 지도’(https://deepfakemap.xyz)는 최근 엑스(옛 트위터) 등에서 확산되고 있는 ‘딥페이크 피해학교 목록’ 등을 기반으로 해당 학교들을 지도 위에 표시해 주목을 끌었다.

이날 공개된 지도에는 전국적으로 수백개의 초·중·고등학교와 대학교가 표시돼 있었다. 이 사이트를 만든 ‘팀 데이터스택’은 “제2의 N번방 사태에 대해 경각심을 주고, 추가 피해를 막기 위해 만들었다”며 “사이트에 게시된 정보들은 각종 커뮤니티에서 자료를 직접 수집한 것”이라며 “다만 정확한 정보만 모여있는게 아니니 참고용으로만 봐주길 바란다”고 당부했다.

현행법상 딥페이크 성착취의 피해자가 19세 미만 아동·청소년이면 아동·청소년성보호법 제11조(아동·청소년성착취물의 제작·배포 등)가 적용돼 문제 영상을 소지·시청하면 1년 이상의 징역, 제작·배포할 경우 최소 징역 3년에서 최대 무기징역까지 선고된다.

또한 성착취물 피해자가 성인이면 성폭력처벌법 제14조의2(허위 영상물 등의 반포 등)에 근거해 제작·반포자는 5년 이하의 징역 또는 5,000만원 이하의 벌금에 처하며 영리 목적까지 확인될 경우 처벌 수위는 7년 이하의 징역에 해당된다. 

/박주현 기자