유명 여가수까지 절망에 빠져 '극단적인 선택' 하게 만든 동영상

지난 5월 광주 남부경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 등 혐의로 A(24)씨를 구속했다. 한 모텔에서 전 여자친구 B(21)씨의 옷을 강제로 벗기고 사진을 찍은 그는 B씨가 자신을 만나주지 않자 이 사진을 유포하겠다고 협박했다. 결국 B씨는 자신의 집에서 극단적인 선택을 했다.

이처럼 피해 여성들을 극단으로 몰고 가는 ‘리벤지 포르노’ 등 디지털 성범죄 영상물을 찾는 데 인공지능(AI) 기술이 적용된다.

과학기술정보통신부와 여성가족부는 웹하드 사이트를 통한 디지털 성범죄 피해 영상물의 유포를 효율적으로 방지하기 위해 22일부터 여가부의 ‘디지털 성범죄 피해자 지원센터’ 업무에 인공지능 기술을 시험 적용하기로 했다고 이날 밝혔다.

지금까지는 디지털 성범죄 피해자가 신고한 불법촬영물이 웹하드 사이트에 게시돼 있는지 확인하기 위해선 지원센터 삭제 지원 인력이 수작업으로 촬영물에서 검색용 이미지를 추출하고 각 사이트를 검색해야 했다. 이에 따라 신속한 피해자 지원에 한계가 있었다.

이를 개선하기 위해 과기정통부, 여가부, 지원센터, 한국전자통신연구원(ETRI)은 올해 초부터 협의체를 구성하고 인공지능(AI) 기술을 활용한 웹하드 사이트 ‘불법촬영물 삭제지원 시스템’ 개발을 추진해왔다.

이번 시스템 개발은 기술개발 주체(ETRI)와 현장(지원센터)의 협업을 통한 성과물이다. ETRI는 지원센터의 요구사항을 도출해 삭제지원 시스템의 기능을 설계ㆍ개발했으며, 지원센터는 기능 검증을 거쳐 22일부터 실제 업무에 시험적으로 활용하기로 했다.

삭제지원 시스템은 인공지능(AI) 기술을 통해 피해자가 신고한 불법촬영물에서 이미지를 추출해 웹하드 사이트에서 피해촬영물과 유사한 영상물을 자동으로 선별ㆍ수집하는 기능 등을 갖추고 있다.

지원센터의 삭제지원 인력은 피해촬영물과 유사한 영상물의 이미지, 유사도, 제목, 주소(URL) 등 삭제지원 시스템을 통해 수집된 정보를 검토하여 영상물을 확인하고, 피해촬영물 유포사례가 있을 경우 해당 웹하드 사이트에 삭제 요청을 하게 된다.

아울러, 현재 삭제지원 시스템을 통해 검색할 수 있는 국내 웹하드 사이트는 10개다. 22일부터 시험적으로 적용하다 올해 하반기에 35개 웹하드 사이트에 대한 검색 기능을 추가 개발해 지원센터 업무에 정식으로 적용할 예정이다.

과기정통부 관계자는 “이번에 개발된 삭제지원 시스템은 관련 기관간의 긴밀한 협력을 통해 새롭게 개발된 기술이 현장에서 잘 활용될 수 있도록 현장과 개발자가 협업한 좋은 사례”라고 밝혔다.

여가부 관계자는 “전체 웹하드 사이트를 대상으로 한 삭제지원 시스템 활용시 웹하드에 유포된 불법촬영물 검색시간이 현저히 단축될 수 있고 365일 24시간 자동 검색도 가능하기에 디지털 성범죄 피해자를 보다 신속하게 지원할 수 있을 것으로 기대한다”고 밝혔다.

문제는 ‘리벤지 포르노’를 비롯한 영상의 상당수가 해외에 서버를 불법 사이트를 중심으로 올라오고 있다는 점이다. 실제로 방송통신심의위원회는 음란물의 95% 이상이 해외서버로 유통되고 있다고 최근 밝힌 바 있다.

이에 따라 이들 불법 업체에 광고하는 기업들까지 함께 처벌하고 해외 수사당국과 국제공조를 강화하는 등 보다 적극적인 단속이 이뤄져야 한다는 목소리가 일고 있다. 일각에선 텀블러의 사례처럼 구글, 페이스북, 트위터 등 플랫폼 사업자에 대한 압박을 강화해 음란물 유통을 원천 차단해야 한다는 지적도 나온다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 핫라인 1577-0199, 희망의 전화 129, 생명의 전화 1588-9191, 청소년 전화 1388 등에서 24시간 전문가의 상담을 받을 수 있습니다.