여가부 "아동·청소년 성착취물 자동 탐지 시스템 연내 구축"

'딥페이크를 막아라!'

[연합뉴스 자료사진]

원본프리뷰

(서울=연합뉴스) 이상서 기자 = 지난해부터 사회적인 문제로 떠오른 딥페이크와 같은 합성·편집물 피해자의 절반이 미성년자였던 것으로 조사됐다.

10일 여성가족부와 한국여성인권진흥원이 발표한 '디지털성범죄 피해자 지원 보고서'에 따르면 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)에 접수된 '합성·편집' 피해 건수는 1천384건으로, 전년(423)보다 227.2% 늘었다.

피해 연령별로는 20대가 46.4%로 가장 많았고, 10대(46.2%), 30대(5.3%), 40대(1.2%), 50대(0.7%), 10대 미만(0.1%) 등이 뒤를 이었다.

10대 이하가 전체 피해자의 절반에 육박한 것이다.

박성혜 중앙디성센터 삭제지원팀장은 브리핑에서 "최근 인공지능(AI) 기술을 활용해 친구나 교사의 사진을 합성하는 일종의 '놀이 문화'처럼 여기는 일들이 발생하고 있다"며 "10대들이 딥페이크 제작을 하는 업체에 의뢰해 딥페이크 이미지를 만들어 유포하는 사례들도 증가하고 있다"고 설명했다.

우려되는 부분은 합성되는 이미지의 수준이 갈수록 정교해지고 있다는 점이다.

박 팀장은 "중앙디성센터가 개소했던 2018년만 해도 '합성ㆍ편집' 피해는 일상사진에 성적인 자막을 입히는 단순하고 조악한 형태였다"며 "온라인에서 친구를 만나고, 연애도 하는 '디지털 네이티브 세대' 특성상 (관련 문제는) 지속될 것으로 보인다"고 말했다.

챗GPT로 생성한 축구선수 손흥민 이미지

[챗GPT 생성 이미지. 재판매 및 DB 금지]

원본프리뷰

최근에는 일본 애니메이션 제작사 지브리 등의 화풍으로 사진 바꾸기 유행을 불러온 오픈AI의 챗GPT로 인한 피해 접수도 들어오고 있다고 한다.

그는 "아직 통계로 나올 정도의 수치는 아니지만, 중요하게 보고 있는 사례다"며 "(생성형 AI) 기업들이 미국에 많다 보니 기술 연수 프로그램을 기획해 내달 중 미국을 방문할 예정"이라고 전했다.

앞서 중앙디성센터는 작년 8월 딥페이크 성범죄에 대응하고자 '전담 대응팀'을 구성하고, 긴급 모니터링 및 삭제 지원과 텔레그램 채팅방을 모니터링하는 등 각종 대책을 내놓았다.

하지만 불법 합성물 증가세를 꺾기에는 대응 역량이 여전히 부족해 보인다.

중앙디성센터가 수집한 불법 촬영물이 유통·게시되는 사이트 2만6천318곳 가운데 95.4%는 국외에 서버를 둔 사이트인 탓에 국내 기업에 비해 삭제 지원 협조가 덜 적극적일 수밖에 없고, 삭제를 마치는 데까지 기간도 더 오래 걸리기 때문이다.

특히 앞선 'N번방 사건'과 작년 딥페이크 성범죄 영상의 주요 유포 경로가 된 텔레그램이 사각지대로 꼽힌다.

꾸준히 지적받아온 중앙 디성센터의 인력 부족도 적극적인 불법 촬영물 근절을 위해 보강돼야 할 부분이다.

중앙디성센터에 접수된 전체 피해 영상물 삭제 지원 건수는 2018년 2만8천여건에서 지난해 30만여건으로 10배 넘게 급증했다.

반면 중앙디성센터의 인력은 지난해 39명에서 올해 41명으로 정규직 2명이 증원되는 데 그쳤다. 이 가운데 8명은 기간제 직원이다.

노현서 여가부 디지털성범죄방지과 과장은 "과학기술정보통신부와 디지털 기반 사회 문제 해결 프로젝트를 통해 아동 청소년 성착취물을 자동 탐지하고 피해가 발생하기 전에 예방할 수 있는 시스템을 연내 구축하려고 한다"고 설명했다.

박 팀장도 "방송통신심의위원회와 협의해서 텔레그램과 새로운 (소통) 창구를 추가 확보해 지난해 193건을 삭제 요청했으며, 그중 딥페이크 66건을 삭제 완료했다"며 "미국 실종학대아동방지센터(NCMEC)와 업무협약을 맺은 2023년 165건이었던 일괄 삭제 요청·조치 건수는 작년 6천700여건으로 늘었다"고 강조했다.

shlamazel@yna.co.kr