그록 '딥페이크 확산' 논란에 결국…한국 정부도 '한마디'했다

방송미디어통신위원회가 인공지능(AI) 챗봇 ‘그록(Grok)’을 운영 중인 엑스(X·옛 트위터)에 청소년 보호 장치 마련을 요청했다.

방미통위는 14일, 최근 소셜미디어를 통해 성 착취물과 비동의 성적 이미지가 확산되며 사회적 우려가 커지고 있는 상황을 고려해 엑스 측에 관련 요구 사항을 전달했다고 밝혔다.

방미통위는 그록 서비스가 이용자의 불법 행위를 유발하는 수단으로 악용되지 않도록 엑스 차원의 안전장치 도입이 필요하다고 보고 있다. 이에 따라 유해 정보로부터 미성년자를 보호하기 위한 청소년 접근 제한 조치와 구체적인 관리 계획을 수립하고, 그 이행 결과를 정부에 회신해 달라고 통보했다. 현재 엑스는 정보통신망법에 따라 청소년보호책임자를 지정해 방미통위에 신고하고 있으며, 매년 관련 운영 실태 자료를 제출하고 있다.

아울러 방미통위는 한국에서 당사자의 의사에 반하는 성적 허위 영상물을 제작하거나 유통·소지·시청하는 행위가 모두 엄중한 형사처벌 대상이라는 점을 엑스 측에 명확히 전달했다. 김종철 방미통위원장은 “새롭게 도입되는 기술이 건전하고 안전하게 발전할 수 있도록 지원하겠다”며 “이에 따른 부작용과 역기능에 대해서는 합리적인 규제를 통해 대응하고, 인공지능 서비스 제공자에게 불법 정보 유통 방지와 청소년 보호 책임을 부과하는 제도 개선을 추진하겠다”고 강조했다.

이 같은 국제적 우려와 규제 움직임에 맞춰 엑스 측도 자체적인 대응에 나섰다. 엑스는 그록을 활용한 여성 및 아동 딥페이크 이미지 생성 논란이 확산되자 이미지 생성 기능에 제한을 두는 안전 조치를 도입했다. 엑스 안전팀은 14일(현지 시각) 공식 계정을 통해 “아동 성 착취물과 동의 없는 노출을 포함한 위험 콘텐츠를 삭제하고 있으며, 규칙을 위반한 계정에 대해서는 적절한 조치를 취하고 있다”고 밝혔다.

또한 엑스는 그록 계정이 실제 인물의 이미지를 편집해 과도한 노출 상태로 생성하는 것을 허용하지 않도록 기술적 제한을 적용했다고 설명했다. 해당 조치는 유료 구독자를 포함한 모든 사용자에게 동일하게 적용된다. 현재 엑스 플랫폼에서 그록의 이미지 생성 및 편집 기능은 유료 사용자에게만 제공되고 있으며, 엑스 측은 이를 통해 악의적인 사용에 대한 책임을 보다 명확히 하고 추가적인 보호 장치를 마련했다고 밝혔다.

엑스의 이번 조치는 롭 본타 캘리포니아주 법무장관이 AI 모델 ‘그록’을 이용한 성적 이미지 확산에 대해 조사를 개시한다고 밝힌 직후 이뤄졌다. 본타 장관은 공식 성명을 통해 "동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작 및 유포를 절대 용납하지 않겠다"고 강조했으며, 이는 미국 내에서 나온 당국의 첫 제재 움직임이라는 점에서 큰 주목을 받고 있다.