진짜인줄 알고 분노했다...AI로 허위 영상 올린 유튜버 구속

경찰 보디캠 영상으로 오인될 수 있는 인공지능 허위 영상을 제작해 유포하며 수익을 올린 유튜버가 구속됐다.

경기북부경찰청 사이버수사대는 2일 전기통신기본법 위반 등 혐의로 30대 남성 A 씨를 구속했다고 이날 연합뉴스가 보도했다.

보도에 따르면 A 씨는 ‘순찰 24시’라는 이름의 유튜브 채널을 운영하며 경찰관이 112 신고 현장에 출동해 보디캠으로 촬영한 것처럼 보이는 인공지능 합성 영상을 제작해 게시한 혐의를 받는다. 해당 영상들은 여장남자 여성 탈의실 신고 출동이나 외국인 난동 체포 장면 등 실제 사건을 연상시키는 제목과 구성으로 만들어졌으며 실제 현장을 촬영한 영상처럼 연출됐다.

A 씨는 채널 소개 글에는 실제 경찰과 무관한 실화 바탕 각색 AI 영상이라는 설명을 덧붙였지만 개별 영상에는 인공지능으로 제작된 허위 영상이라는 고지 문구를 표시하지 않았다. 또 AI로 제작된 영상임을 알리는 워터마크를 의도적으로 삭제한 사실도 확인됐다.

이 같은 영상들은 유튜브뿐 아니라 인스타그램 틱톡 페이스북 등 다양한 사회관계망서비스를 통해 숏폼 형태로 확산됐으며 전체 누적 조회 수는 3000만 회를 넘긴 것으로 집계됐다. 일부 영상은 실제 상황으로 오인한 누리꾼들의 항의가 경찰에 접수될 정도로 파급력이 컸다.

경찰은 해당 영상들이 경찰의 공무 집행을 사실처럼 묘사하면서 공권력 전반에 대한 국민적 신뢰를 훼손할 우려가 크다고 판단했다. 경찰 관계자는 초기에 제작된 영상은 비교적 어설펐지만 시간이 지나면서 인공지능 활용 능력이 향상돼 실제 보디캠 영상과 구분이 어려운 수준에 이르렀다고 설명했다.

조사 결과 A 씨는 챗GPT와 그록 등 생성형 인공지능 도구를 활용해 총 54개의 허위 영상을 제작한 것으로 파악됐다. 이 과정에서 조회 수를 끌어올린 뒤 다른 불법 활동으로 관심을 유도하는 역할도 병행한 것으로 드러났다.

경찰은 A 씨가 무허가 사설 선물거래와 해외선물 투자 리딩방 운영 범죄에 가담해 이른바 바람잡이 역할을 하며 대가로 약 3000만원을 챙긴 혐의도 확인했다. 이와 함께 유료 구독형 SNS 채널을 운영하며 인공지능으로 제작한 음란물을 판매한 사실도 적발됐다.

A 씨는 경찰 조사에서 생활비 마련을 위해 허위 영상 제작과 사이트 운영을 직업처럼 이어왔다는 취지로 진술한 것으로 알려졌다. 경찰은 지난달 말 A씨를 구속 상태로 검찰에 송치했다.

경기북부경찰청은 공동체의 신뢰를 저해하는 허위정보 범죄를 중대 범죄로 보고 올해 10월까지 집중 단속을 이어갈 방침이다.

경찰 관계자는 허위 영상물의 신속한 확보와 삭제가 추가 피해를 막는 핵심이라고 강조하며 유사 사례에 대한 수사를 강화하겠다고 밝혔다.

◈ AI 합성 숏폼 확산에 경계 필요

요즘 숏폼 플랫폼을 중심으로 사건 현장을 재현한 듯한 ‘상황극’ 영상이 잇따라 올라오면서 실제 기록 영상으로 오인되는 사례가 늘고 있다. 화면을 조금만 들여다보면 인공지능 합성의 흔적이 드러나는 경우도 있지만 영상 길이가 짧고 자극적인 자막과 효과음이 붙으면 시청자가 의심할 틈 없이 받아들이기 쉽다.

특히 보디캠 시점이나 CCTV 화면처럼 연출한 영상은 ‘공식 기록물’이라는 인상을 주기 쉬워 위험성이 더 크다. 화면 한쪽에 ‘녹화 중’ 표시가 떠 있거나 경찰 제복과 장비가 등장한다고 해서 실제 촬영본으로 단정하기 어렵다. 최근에는 영상의 완성도가 빠르게 높아지면서 어색함이 길게 드러나기보다 짧은 순간에만 나타나는 경우가 많아 무심코 지나가기도 한다.

영상 속 단서도 점점 교묘해지고 있다. 인물의 말투는 격앙돼 있는데 주변 소음이 비현실적으로 깨끗하게 들리거나 현장 음향이 일정한 패턴으로 반복되는 경우가 있다. 경찰 무전이나 경광등 소리 같은 효과음이 장면마다 비슷한 형태로 깔리면 실제 녹음이 아니라 후반 작업으로 삽입됐을 가능성을 의심할 만하다. 자막 역시 특정 집단을 겨냥해 혐오를 부추기거나 장면과 무관하게 결론을 단정하는 표현을 반복하면 사실 전달보다 조회 수를 노린 편집일 수 있다.

화면 구성에서도 힌트를 찾을 수 있다. 손가락 모양이 순간적으로 깨지거나 얼굴 표정이 부자연스럽게 고정되는 장면이 나타나기도 하고 표지판이나 간판 글자가 흐트러지거나 동일한 문자가 이상하게 반복되는 식의 오류가 남기도 한다. 움직임이 자연스러워 보여도 인물과 배경의 초점이 어긋나거나 그림자 방향이 장면마다 달라지는 등 미세한 부자연스러움이 있다.

허위 영상은 사실관계가 정리되기 전에 감정과 인식을 먼저 확산시키는 특성이 있어 피해가 커질 수 있다. 단순한 장난이나 ‘각색된 상황극’으로 소비되더라도 실제 공권력 행사나 범죄 상황으로 받아들여지면 불필요한 민원과 오해로 이어질 수 있고 특정 집단에 대한 편견과 불신을 키우는 촉매가 될 수 있다는 점도 경계해야 한다.