미국 최대 야동사이트 “AI 얼굴 합성 야동 금지하겠다”

인공지능으로 만든 얼굴 합성 야동이 포르노 사이트에서도 금지됐다.

지난 6일(현지시각) 미국 매체 마더보드는 미국 최대 포르노 영상 사이트인 폰허브(Pornhub)가 인공지능으로 제작된 합성 영상을 삭제하기로 했다고 보도했다.

폰허브 측은 "우리는 합의되지 않고 만들어진 성인물을 용납하지 않는다"라며 "우리는 발견하는 즉시 모든 AI 합성 영상을 삭제할 것이다"라고 말했다. 폰허브는 '리벤지 포르노'같은 영상도 금지하고 있으며 쌍방 동의되지 않고 제작된 영상을 엄격히 금지하는 방침을 유지했다.

지난해 미국 커뮤니티 레딧에서 딥페이크(deepfakes)라는 아이디를 사용하는 이용자는 기계학습을 이용해 동영상 얼굴 합성을 할 수 있는 인공지능을 오픈 소스로 공개했다.

딥페이크가 만든 인공지능을 활용하면 한 영상 속 A라는 사람 얼굴을 다른 영상 속 또 다른 사람 B 얼굴에 합성할 수 있다. 인공지능은 표정과 각도 등 모든 것을 고려해 이질감 없이 합성해내 기술력을 인정받았다. 그러나 이 인공지능은 유명 연예인 얼굴을 기존 유통되고 있던 포르노 영상 속 배우 얼굴에 합성하는 것으로 악용됐다.

이 인공지능으로 할리우드 배우 갤 가돗(Gal Gadot·33), 엠마 왓슨(Emma Watson·28) 등 유명 연예인 얼굴이 합성된 야동이 만들어졌다. 이 영상들은 각종 커뮤니티와 포르노 영상 사이트에서 공유되며 논란이 됐다.

최근에는 우리나라 여자 연예인 얼굴까지 합성된 영상까지 인터넷에 돌아다니며 큰 충격을 줬다.

아래 영상은 딥페이크 인공지능을 이용해 얼굴을 합성한 사례다.