AI 음란물 논란에…'세계 최초'로 머스크의 '그록' 차단한 국가

최근 AFP와 블룸버그 통신 등 외신에 따르면 인도네시아 정부는 일론 머스크의 인공지능(AI) 기업 xAI가 운영하는 챗봇 서비스 ‘그록(Grok)’에 대한 접속을 차단했다.

인도네시아는 세계에서 무슬림 인구가 가장 많은 국가로, 온라인상 음란물 유통을 법으로 엄격히 금지하고 있다. 이런 상황에서 최근 그록을 통해 성적으로 노출이 심한 이미지와 영상이 제작돼 소셜미디어 등을 통해 확산되자, 당국이 행정 조치에 나선 것이다. 무티아 하피드 인도네시아 통신디지털부 장관은 이번 조치와 관련해 “정부는 디지털 공간에서 동의 없이 이뤄지는 딥페이크를 인권과 존엄성을 침해하는 중대 행위로 간주한다”며 “AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동을 보호하기 위해 그록 애플리케이션 접근을 일시적으로 차단했다”고 밝혔다. 그록 논란 이후 해당 서비스를 차단한 국가는 인도네시아가 처음이다.

그록을 둘러싼 논란은 인도네시아에 국한되지 않고 여러 국가로 확산하고 있다. 그록은 일반 사진을 성적 이미지로 변형하는 기능을 제공하면서 문제로 지적돼 왔다. 챗GPT나 제미나이 등 다른 주요 AI 서비스들이 성적 콘텐츠 생성을 제한하는 정책을 운용하는 것과 달리, 그록은 상대적으로 규제가 느슨하다는 평가를 받아왔다. 특히 최근 업데이트 이후 이미지 업로드와 변형 과정이 간소화되면서, 엑스(X·옛 트위터)에는 당사자의 동의 없이 미성년자를 부적절하게 묘사한 이미지가 게시되는 사례가 잇따랐다.

이 같은 우려가 커지면서 영국 정부는 벌금 부과를 포함한 제재 방안을 검토하고 있으며, 호주 당국도 그록을 활용한 착취적 이미지 생성 신고가 증가함에 따라 강력한 조치를 검토하겠다고 밝혔다. 또 미국에서는 론 와이든 상원의원을 포함한 3명의 의원이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스 앱을 삭제할 것을 요청했다. 그러나 머스크는 각국 정부의 규제 움직임에 대해 비판적인 입장을 드러냈다. 그는 영국 정부를 겨냥해 “파시스트”라며 반발했고, 검열을 위한 명분을 찾고 있다는 다른 이용자의 게시물을 공유하기도 했다.

이 과정에서 머스크의 ‘규제 반발’ 발언이 논란을 키웠다는 보도도 나왔다. 일부 해외 매체는 머스크가 영국 정부의 규제 움직임을 강하게 비판하며 ‘검열’ 논쟁을 촉발했다고 전했다.

논란이 이어지자 xAI와 머스크는 대응에 나섰다. xAI는 이미지 생성 및 편집 기능을 유료 구독자에게만 제공하도록 정책을 변경했다. 아울러 머스크는 엑스를 통해 “그록을 이용해 불법 콘텐츠를 제작할 경우 직접 게시한 것과 동일한 법적 책임을 지게 될 것”이라고 밝히며 사용자 책임을 강조했다. 더불어 엑스의 알고리즘을 오픈소스로 공개하겠다는 계획도 전했다.

전문가들은 생성형 AI의 발전이 표현의 자유라는 가치와 충돌할수록, 각국이 ‘플랫폼 안전장치’와 ‘사업자 책임’을 더 강하게 요구하는 흐름이 뚜렷해질 것으로 본다. 특히 딥페이크 성 착취물은 국경을 넘어 유통되기 쉬워, 한 국가의 차단·규제 조치가 다른 국가의 규제 논의를 자극하는 ‘도미노’로 이어질 가능성도 거론된다. 따라서 인도네시아의 이번 조치가 단발성 차단에 그칠지, 혹은 국제적 공조와 규제 기준 마련 논의로 확산될지 주목된다.