UN 「AI 통제 시급」…4000명 모인 첫 거버넌스 회의

유엔이 인공지능(AI)의 무분별한 확산에 경종을 울렸다. 안토니우 구테흐스(António Guterres) 유엔 사무총장은 스위스 제네바에서 7월 6일부터 7일까지(현지시각) 열린 첫 유엔 AI 거버넌스 글로벌 대화(UN Global Dialogue on AI Governance) 개회사에서 "우리 사회를 대상으로 계획도 동의도 없는 실험이 진행되고 있다"고 경고했다. 이번 행사에는 각국 정부와 기업, 학계, 시민사회 등 4000명 이상이 참석했다. 구테흐스 사무총장은 AI가 "질주하는 속도"로 발전하고 있다며 국제사회가 공동으로 규범을 마련해야 한다고 촉구했다. 유엔총회 의장 아날레나 베어보크(Annalena Baerbock)도 딥페이크 등 AI의 어두운 이면에 대응하기 위한 공동 행동을 호소했다.

배경: 각자 다른 규칙, 목소리 못 내는 개발도상국

유네스코(UNESCO)에 따르면 AI는 이미 국가별 규제, 기술 표준, 조달 기준, 양자 협정 등을 통해 통제되고 있지만 그 방식은 나라마다 제각각이다. 문제는 AI 산업이 앞선 국가들이 주로 규범을 설계해왔다는 점이다. AI로 인한 영향을 가장 크게 받는 나라들은 오히려 그 규범을 만드는 과정에서 목소리를 내지 못했다.

이번 대화는 이런 불균형을 바로잡기 위해 유엔총회 결의로 마련됐다. 모든 회원국에 동등한 발언권을 부여하고 개발도상국과 글로벌 사우스(Global South)도 관찰자가 아닌 정식 참여자로 결과 도출에 참여하도록 했다. 대화 공동의장인 엘살바도르의 에그리셀다 로페스(Egriselda López) 유엔 대표는 "이번 첫 글로벌 대화의 신뢰성은 제네바에서 이어지고 있는 개방적이고 참여적인 과정을 통해 만들어졌다"고 말했다. 또 다른 공동의장인 에스토니아의 레인 탐사르(Rein Tammsaar) 유엔 대표는 "유엔의 소집력을 활용해 AI를 인류 전체에 이익이 되는 글로벌 공공재로 전환해야 한다"며 이번 대화가 "AI의 샌프란시스코 모먼트"가 되길 기대한다고 밝혔다.

올해 1월부터 6개월간 주제별·지역별·온라인 방식으로 전 세계 협의가 이어졌고 정부·시민사회·민간기업·학계·기술 전문가 등으로부터 1500건 이상의 서면 의견이 제출됐다. 정부만이 유일하게 '역량 강화'를 최우선 순위로 꼽았고 나머지 이해관계자 그룹은 대부분 '안전'을 1순위로 선택했다. 투명성, 책임성, 인간 감독, 사회·경제·윤리·문화·언어적 영향 등도 주요 의제로 꼽혔다. 500건 이상의 제출자는 이 논의가 7월 이후에도 계속돼야 한다고 요구했다.

구테흐스의 경고: "인류의 미래를 바이브 코딩할 수 없다"

구테흐스 사무총장은 AI가 더 이상 "명령을 기다리는 도구가 아니다"라고 강조했다. "AI는 스스로 코드를 작성하고 온라인에서 행동하며 인간의 감독을 점점 덜 받으며 선택을 내리고 있다"는 것이다. 그는 "우리의 제도는 명령을 따르는 기계를 통제하도록 만들어졌지만 스스로 결정하는 기계에는 준비되지 않았다"고 지적했다.

그는 최근 화두인 '바이브 코딩(vibe-coding)', 즉 직접 코드를 짜지 않고 AI에게 원하는 것을 말로 지시하는 방식에 대해서도 언급했다. "바이브 코딩은 놀라운 일을 할 수 있다"면서도 "그러나 우리는 진실을 진실을 바이브 코딩할 수 없고 인류의 미래를 바이브 코딩할 수도 없다"고 못박았다. 이어 소수 AI 기업과 소수 국가로의 권력 집중을 또 다른 위험으로 지목했다. 대다수 국가는 "자신들의 미래를 좌우할 결정에 아무런 발언권이 없었다"는 것이다. 그는 각국이 이제 "설계에 의한 통치"와 "방치에 의한 표류" 사이 갈림길에 서 있다고 말했다.

딥페이크 96%가 여성·소녀 표적…아동 보호가 최우선

베어보크 유엔총회 의장은 딥페이크로 대표되는 AI의 어두운 이면에 강한 우려를 나타냈다. 그는 보도된 딥페이크 콘텐츠의 99%가 성적인 내용이며 이 중 96%가 여성과 소녀를 표적으로 한다고 지적하며 국제사회의 공동 대응을 촉구했다. 구테흐스 사무총장도 향후 마련될 어떤 합의든 "전 세계가 신뢰할 수 있어야" 하며 안전을, 특히 아동 안전을 최우선에 둬야 한다고 강조했다. 디지털로 조작된 콘텐츠에 의한 착취와 학대로부터 아이들을 보호해야 한다는 취지다.

그는 AI 접근성 격차 해소도 주문했다. 수십억 명이 여전히 이 혁신적인 기술에 접근하지 못하고 있다는 것이다. 개발도상국이 자기학습형 AI 기술에 안정적으로 접근할 수 있도록 보장하는 것도 국제 규범의 우선 과제로 꼽혔다. 아울러 모든 AI 데이터센터가 2030년까지 재생에너지로만 가동돼야 한다는 목표도 제시됐다. 구테흐스 사무총장은 "AI는 인류 공동의 미래 한가운데 있다"면서도 "기계는 정보를 제공할 수 있지만 결정하고 책임지는 것은 인간이어야 한다"고 강조했다. 이는 그가 2017년 유엔총회에서 처음 제기했던 AI 규범 마련 요구를 다시 꺼낸 것이다.

전문가들의 시각: "속도 줄어들 조짐 없다"

아만딥 싱 길(Amandeep Singh Gill) 유엔 디지털·신흥기술 특사는 "AI는 소수에 의해 형성되기에는 너무 중대한 문제"라며 "전 세계적이고 포용적이며 증거에 기반한 대화가 필요하다"고 말했다. 독립국제AI과학패널(Independent International Scientific Panel on AI) 공동의장 요슈아 벤지오(Yoshua Bengio)는 AI 기술의 발전 속도가 느려질 조짐이 전혀 없다고 진단했다. 그는 "최첨단 AI 모델이 인간을 속이고 자신이 테스트받고 있다는 사실을 스스로 파악할 수 있다는 매우 우려스러운 실험 결과도 있다"며 AI의 지능이 계속 성장할 것으로 전망했다.

이번 행사에는 기업과 연구자, 기술 전문가, 시민사회 인사뿐 아니라 클래식 작곡가에서 트랜스미디어 전자음악가로 전환한 가디 사순(Gadi Sassoon) 같은 예술가도 참여해 AI 시대 인간 중심의 논의를 이어갔다. AI가 본격적으로 대중화된 지 3년 만에 경제와 사회 전반에 혁명적 영향을 미치고 있는 가운데 유엔은 이번 대화를 국제적 통제 체계 마련의 출발점으로 삼겠다는 구상이다. 두 번째 대화는 2027년 5월 미국 뉴욕에서 열릴 예정이다.