네팔 홍수 사망자 538명 속 가짜 AI 영상 확산…진위 판별은 결국 개인 몫

구글 비오(Veo), 클링AI(Kling AI) 같은 AI 영상 생성기가 문장 하나로 몇 분 분량의 사진처럼 정교한 영상을 만들어내면서 실제 촬영 영상과 합성 영상을 구별하기가 점점 어려워지고 있다. 여러 AI 연구소와 스타트업이 현실적인 움직임과 조명, 물리 법칙까지 시뮬레이션하는 모델을 개발 중이어서 이런 흐름은 앞으로 더 정교해질 전망이다. 업계는 C2PA 콘텐츠 크리덴셜(Content Credentials), 구글의 SynthID처럼 영상에 출처 정보를 심는 워터마킹 표준을 도입하고 있지만, 이를 걸러내는 탐지 기술은 아직 초기 단계에 머물러 있다. 인도 매체 인디언 익스프레스(Indian Express)는 결국 영상을 공유하기 전 진위를 확인하는 부담이 사용자 개개인에게 넘어갔다고 짚었다. 실제로 최근 네팔 홍수 소식이 퍼지는 과정에서도 AI로 만든 가짜 영상이 뒤섞여 온라인상 혼란을 키운 사례가 나왔다.

표정과 움직임, 조명에서 드러나는 어색함

AI로 만들어낸 사람 얼굴은 눈을 깜빡이는 속도가 지나치게 빠르거나 느린 경우가 많다. 표정도 이상하리만치 규칙적으로 반복돼 장면의 감정과 정확히 맞아떨어지지 않고, 프레임이 바뀔 때마다 피부·눈·머리카락의 질감이 미묘하게 달라지기도 한다. 몸의 움직임 역시 실제 사람이라면 자연스럽게 나오는 미세한 보정 동작 없이 지나치게 매끄럽게 이어지는 경우가 AI 생성 영상의 흔한 특징으로 꼽힌다.

입술 움직임과 음성이 정확히 맞지 않는 것도 대표적인 신호다. 특히 문장이 끝나는 지점에서 입 모양과 발화 내용이 어긋나는 경우가 잦다. 다만 인디언 익스프레스는 최근 2년 사이 음성 복제(voice cloning) 기술이 크게 발전해 립싱크 불일치만으로는 신뢰할 만한 판별 기준이 되기 어렵다고 짚었다. 조명과 그림자, 반사 역시 AI 생성기가 여전히 취약한 영역이다. 그림자가 엉뚱한 방향을 가리키거나, 반사면에 비친 모습이 실제 대상과 조금 혹은 완전히 다르게 나타나기도 하고, 컷이 바뀔 때 조명이 비논리적으로 변하는 경우도 있다.

영상 길이·화면 속 오류부터 계정 이력까지

인도 매체 CNBC TV18은 네팔 홍수 관련 가짜 영상 사례를 다루며 몇 가지 확인 방법을 추가로 제시했다. 현재 대부분의 무료 AI 영상 생성 모델은 약 15초 안팎까지만 영상을 만들 수 있어, 10초처럼 유난히 짧은 영상은 잠재적 경고 신호가 될 수 있다는 것이다. 다만 길이만으로 AI 생성 여부를 단정할 수는 없다고 덧붙였다. 재난 현장을 보여준다고 주장하는 영상이라면 물체가 갑자기 사라지거나 색이 바뀌는지, 인물의 신체 비율이 뒤틀리거나 부자연스러운 움직임·표정이 나타나는지도 살펴봐야 한다.

특정 사건을 담았다고 주장하는 영상은 장면을 캡처한 키프레임으로 역방향 이미지 검색을 해보는 것도 방법이다. 무료 브라우저 확장 프로그램인 InVID/WeVerify는 영상에서 키프레임을 추출해 여러 검색엔진에서 동시에 검색해준다. 신뢰할 만한 언론사가 같은 사건을 독립적으로 보도했는지 확인하는 것도 도움이 되지만, 속보성 사건은 검증에 시간이 걸릴 수 있어 보도가 없다는 사실만으로 AI 생성물이라 단정할 수는 없다. 최근 등장한 여러 AI 탐지 도구도 영상 분석 기능을 내놓고 있지만, 완벽하게 정확한 도구는 아직 없다는 게 매체의 설명이다.

영상을 내려받을 수 있다면 메타데이터도 확인할 만하다. 휴대폰이나 카메라로 실제 촬영한 영상에는 기기 모델명, 카메라 설정값, 촬영 시각 같은 정보가 담기는 경우가 많다. 반면 AI로 만든 영상은 이런 정보가 없거나, 생성에 쓰인 소프트웨어 정보만 담기는 경우가 있다. 컴퓨터에서는 다운로드한 영상을 우클릭해 속성을 확인하면 되지만, 앱이나 브라우저를 거쳐 공유된 영상은 이런 정보가 지워진 채 유통되는 경우가 많다는 한계도 있다.

영상을 올린 계정도 살펴볼 필요가 있다. 계정 생성 시점, 게시 이력, 자극적이거나 화제성 콘텐츠를 반복해서 올리는지 등을 확인하라는 조언이다. 최근 만들어진 계정이 유난히 많은 영상을 게시하거나 충격적인 콘텐츠를 주로 올린다면 의심의 눈으로 봐야 한다는 게 두 매체 모두의 공통된 조언이다.

플랫폼 라벨링은 만능이 아니다

유튜브와 인스타그램 등 주요 플랫폼은 이미 눈에 보이는 워터마크·라벨링 표준을 도입했다. 이런 플랫폼에 올라온 AI 생성 콘텐츠는 화면 모서리 어딘가에 표시가 남는 경우가 많다. 이 표시는 제작자의 자율 공개와 자동 탐지 기술을 함께 활용해 붙는다. 메타가 운영하는 인스타그램에서는 영상 근처에 붙는 작은 “AI 정보” 또는 “변형되거나 합성된 콘텐츠” 태그를 확인하면 된다.

다만 적지 않은 합성 콘텐츠가 표시 없이 그대로 유통되는 경우가 있고, 반대로 실제 촬영된 영상이 AI 생성물로 잘못 표시된 사례도 있었다고 인디언 익스프레스는 전했다. 네팔에서는 홍수로 인한 사망자가 8월 28일(현지시각) 금요일 기준 538명으로 늘어난 가운데, 구조대가 계속 시신을 수습하는 상황 속에서도 AI로 만든 가짜 영상이 소셜미디어에서 함께 퍼졌다. CNBC TV18은 이런 가짜 영상이 네팔 홍수에 국한되지 않고, 주요 화제 사건과 연결된 영상들에서 점점 더 자주 AI로 만들어지고 있다고 지적했다.