수익이 1700억?…'알몸 이미지 합성' AI 앱, 얼마나 유통되나 봤더니

인공지능(AI) 기술이 비약적으로 발전하면서 이를 악용한 성범죄 사례가 전 세계적인 사회 문제로 떠올랐다. 특히 일반인의 사진을 음란물과 합성하는 딥페이크 기술이 범죄에 이용되면서 강력한 규제가 필요하다는 목소리가 커지고 있다. 이런 가운데 스마트폰 애플리케이션(앱) 유통의 핵심 축인 애플과 구글이 알몸 이미지를 합성해 주는 AI 앱들을 사실상 방치하며 막대한 수익을 올리고 있다는 분석이 제기됐다.

비영리 감시단체인 기술 투명성 프로젝트(TTP)는 27일(현지 시각) 발표한 보고서를 통해 애플 앱스토어와 구글 플레이스토어에서 이른바 ‘누디파이(Nudify·누드 합성)’ 기능을 제공하는 앱을 각각 47건과 55건 발견했다고 밝혔다. 애플과 구글은 자사 앱 스토어에 성적인 콘텐츠나 타인을 비하하고 객체화하는 앱의 등록을 금지하는 정책을 시행 중이다. 그러나 이번 보고서 내용은 양대 플랫폼의 필터링 시스템과 여과 기능이 현장에서 제대로 작동하지 않고 있음을 보여준다.

TTP 분석 결과 문제가 된 앱들은 전 세계적으로 7억 500만 회 이상 내려받아진 것으로 확인됐다. 이들 앱이 거둬들인 예상 수익은 1억 1700만 달러에 달하며 우리 돈으로는 약 1700억 원 규모로 추산된다. 특히 애플과 구글이 앱 개발자 수익의 최대 30%를 수수료로 가져가는 구조라는 점을 고려하면, 양사가 유해 앱을 방치함으로써 직접적인 금전적 이득을 얻고 있다는 비판이 나온다.

해당 앱들은 AI 기술을 활용해 사진 속 인물의 옷을 제거하거나 수영복 차림 등 선정적인 모습으로 변환하는 기능을 갖췄다. 또한 타인의 얼굴을 성적인 이미지에 합성하는 전형적인 딥페이크 기능을 제공하기도 했다. 이 중 상당수 앱은 단순 오락용 합성 도구나 다양한 의상을 가상으로 입어보는 ‘AI 피팅 룸’ 앱인 것처럼 위장해 홍보하며 규제망을 피한 것으로 파악됐다. 결과적으로 이용자는 앱 설명만으로 실제 기능의 위험성을 가늠하기 어려울 수 있고, 피해자는 당사자 동의 여부와 무관하게 이미지가 조작·유통될 수 있다는 점에서 대응이 더 까다로워질 수 있다는 지적이 나온다.

일부 앱은 약관상 외설적인 콘텐츠 생성을 금지한다고 명시했으나 실제 사용 과정에서는 아무런 제재 없이 성적인 이미지를 생성할 수 있었다. 심지어 ‘옷 찢기’나 특정 신체 부위를 강조하는 영상 서식을 노골적으로 제공하는 앱도 존재했다. TTP는 중국에 기반을 둔 일부 앱의 경우 사용자 데이터를 중국 내 서버에 저장하고 있어 개인정보 보호와 보안 측면에서도 심각한 위험을 초래할 수 있다고 경고했다.

이와 관련해 애플 대변인은 미국 경제 방송 CNBC를 통해 “TTP가 지적한 앱 중 28건을 즉각 삭제 조치했으며 개발자들에게 정책 위반 시 서비스에서 퇴출당할 수 있다는 점을 엄중히 경고했다”라고 답했다. 구글 대변인 역시 보고서에 언급된 앱들을 정책 위반 사유로 사용 중지시켰다고 밝혔으나 구체적인 조치 대상 앱 숫자는 공개하지 않았다. 다만 삭제·중지 조치가 이뤄지더라도 유사 앱이 이름과 설명을 바꿔 재등장할 수 있다는 점에서, 일회성 정비로는 한계가 있을 수 있다는 분석도 나온다.

생성형 AI를 활용한 성 착취물 문제는 최근 일론 머스크의 xAI가 운영하는 챗봇 ‘그록’에서도 발생하며 국제적인 쟁점이 되고 있다. 유럽연합(EU) 집행위원회는 그록이 여성과 아동의 성적 이미지를 생성한다는 논란에 대해 디지털서비스법(DSA) 위반 여부를 검토하는 등 공식 조사에 착수했다. 규제 당국의 대응이 플랫폼 단위를 넘어 서비스 전반으로 확대되는 흐름 속에서, 앱 마켓을 포함한 유통 경로 관리가 앞으로 더 엄격해질 가능성이 있다는 전망이 나온다. 빅테크 기업들이 수익 창출에만 몰두하며 AI 기술의 역기능을 외면하고 있다는 지적이 잇따르면서 각국 규제 기관의 압박은 더욱 거세질 것으로 보인다.