EU AI라벨링 8월 2일 시행, 챗봇도 딥페이크도 표식 의무화

유럽연합(EU)의 인공지능(AI) 콘텐츠 투명성 규정이 8월 2일(현지시각) 일요일부터 시행된다. 챗봇 등 AI 시스템은 이제 사용자에게 자신이 AI라는 사실을 명확히 알려야 하고, AI로 만든 이미지나 텍스트에는 라벨을 붙여야 한다. 워터마크나 기타 표식을 넣어 AI 생성물을 쉽게 식별할 수 있게 하는 방식이며, 규정을 지키지 않는 기업은 막대한 과징금을 물어야 한다. EU는 이번 조치로 유럽 시민이 온라인에서 보는 콘텐츠가 실제인지 AI로 만든 것인지 즉시 구분할 수 있게 하겠다는 목표를 내세운다. 특히 실제 인물의 얼굴이나 목소리를 흉내 낸 딥페이크가 이번 규정의 핵심 표적이다.

8월 2일부터 새롭게 적용되는 의무

EU의 AI법(AI Act)은 단계적으로 시행되는데, 8월 2일(현지시각)부터는 투명성 관련 조항이 적용된다. EU 관계자는 “생성형 AI는 특정 대상을 겨냥한 허위정보를 전례 없는 규모로, 놀라운 속도로 퍼뜨릴 수 있게 한다”고 말했다. 이어 AI 때문에 “무엇이 실제고 무엇이 합성물인지 구분하기가 점점 어려워지고 있다”며 이번 규정의 목적이 “시민들이 보고 듣고 읽는 것을 믿을 수 있는 능력을 지키는 것”이라고 설명했다.

이번 규정은 전문적인 목적으로 제작된 콘텐츠에 적용된다. EU는 개인이 순수하게 개인적 용도로 AI를 쓰는 경우는 규제 대상이 아니라고 밝혔다. 다만 공공의 일반적 관심사를 다루는 정보성 텍스트는 인간 편집진의 감수 없이 AI로 작성됐다면 라벨을 붙여야 한다. 이미 운영 중인 AI 시스템은 12월 2일까지 새 규정에 맞춰야 하며, ‘예술적·창작적·풍자적·허구적’ 목적의 작품은 예외로 인정된다.

왜 딥페이크가 핵심 표적인가

EU가 특히 주목하는 대상은 딥페이크다. 실제처럼 보이지만 AI가 생성하거나 조작한 텍스트·이미지·영상·음성을 가리키는데, 실제 인물의 외모나 목소리, 행동을 흉내 내 그 사람이 실제로 하지 않은 말이나 행동을 한 것처럼 믿게 만들 수 있다는 점에서 다른 AI 생성물보다 더 엄격한 규제를 받는다.

과거 사례들이 이런 우려를 뒷받침한다. 2023년 프란치스코 교황이 흰색 패딩 재킷을 입은 것처럼 보이는 AI 생성 이미지가 전 세계에서 화제가 됐다. 가짜였지만 대체로 장난으로 받아들여졌다. 반면 2024년에는 팝스타 테일러 스위프트를 겨냥한 AI 생성 성적 이미지가 동의 없이 온라인에 퍼지며 합성 미디어의 위험성에 대한 논쟁을 다시 불러일으켰다. 2022년 러시아가 우크라이나를 전면 침공한 직후에는 우크라이나 대통령 볼로디미르 젤렌스키가 병사들에게 항복을 지시하는 것처럼 보이는 가짜 영상이 등장해 빠르게 허위로 밝혀졌지만, 전쟁 중 합성 미디어가 무기화될 수 있음을 보여준 사례로 남았다.

빅테크는 이미 라벨을 달고 있다

세계 주요 기술기업들은 규정 시행에 앞서 이미 자체 라벨링을 도입한 상태다. 틱톡(TikTok)은 수년째 크리에이터에게 AI로 만든 이미지·오디오·영상에 라벨을 붙이도록 요구해왔고, 자체 도구와 탐지 기술로 이미 30억 건 넘는 콘텐츠에 라벨을 붙였다고 밝혔다. 메타(Meta)도 인스타그램과 페이스북에서 AI 기술을 쓴 게시물에 ‘AI 정보(AI Info)’ 라벨을 적용하고 있다.

구글(Google)은 EU의 AI 투명성 행동강령에 서명했고 엔비디아, 오픈AI, 애플 등과 함께 디지털 태깅 도구를 개발하고 있다고 밝혔다. 다만 구글의 캐런 매신(Karen Massin)은 “규제 복잡성”이 오히려 역효과를 낼 수 있다고 경고했다. 그는 “온라인 콘텐츠에 여러 AI 라벨과 법적 고지가 겹쳐 넘쳐나면 사람들이 필요한 명확한 맥락을 얻기가 더 어려워진다”며 이런 복잡함이 “이 규정이 도우려는 사람들을 오히려 혼란스럽게 할 위험이 있다”고 말했다.

시행까지 남은 과제

업계에서는 실제 이행이 쉽지 않을 것이라는 우려도 나온다. 국제프라이버시전문가협회(International Association of Privacy Professionals)의 애슐리 카소반(Ashley Casovan)은 AFP에 “이걸 시행하기가 매우매우 어려울 거란 얘기를 듣고 있다”면서도 “다만 규제 준수 요구가 있을 때는 늘 이런 얘기를 듣는다. 그럼에도 세상은 돌아가고 결국 우리는 방법을 찾아낸다”고 말했다.

유로뉴스(Euronews) 보도에 따르면 실제 이행에는 최소 세 가지 장애물이 있다. 첫째는 지리적 한계다. EU는 유럽 시장에서 활동하거나 유럽을 겨냥하는 기업을 규제할 수 있지만, 온라인 콘텐츠는 국경에서 멈추지 않는다. 유럽 밖에서 만들어진 딥페이크도 몇 분 안에 수백만 유럽 이용자에게 도달할 수 있다. 둘째는 기술 성숙도 문제다. 오픈AI와 구글 등은 투명성 요구 자체는 대체로 지지하며 EU의 행동강령에 서명했지만, 탐지·표식 기술이 아직 계속 변화하는 상태라고 지적했다. 워터마킹, 메타데이터, 콘텐츠 출처 추적 시스템 등 업계 전반이 합의한 단일 표준은 아직 없다. 셋째는 디지털 흔적의 취약성이다. 전문가들은 콘텐츠가 편집되거나 압축되거나 여러 플랫폼을 거치며 공유되는 과정에서 워터마크가 제거되거나 손상되거나 사라질 수 있다고 경고한다.

이 때문에 유럽연합 집행위원회의 기술 연구는 “단일 조치보다 여러 표식·탐지 방법을 겹쳐서 적용하는 다층적 접근이 더 강력하다”는 결론을 냈다. EU는 2년 전 AI법을 채택하며 이를 감독할 전담 AI청(AI Office)도 만들었다. 이번 투명성 규정은 앤트로픽의 클로드, 오픈AI의 챗GPT 같은 생성형 AI 서비스 제공사들에 AI가 만들거나 조작한 콘텐츠를 그 자체로 탐지할 수 있게 하라는 의무를 부과한다. 빠르게 진화하는 기술을 규제가 얼마나 따라잡을 수 있을지가 이번 라벨링 규정의 실효성을 가를 것으로 보인다.