하사비스, FINRA 본뜬 AI 국제 감시기구 창설 제안
작성일
하사비스, FINRA 모델 AI 국제감시기구 제안…미국 주도·연내 출범 목표
AGI 몇 년 내 도래 전망 속 “위험 시 개발 중단” 권한 부여 구상
데미스 하사비스(Demis Hassabis) 구글 딥마인드 최고경영자(CEO)가 인공지능(AI) 위험을 관리할 국제 감시기구 창설을 공식 제안했다. 그는 블로그 게시물 “프론티어 AI를 위한 프레임워크와 새로운 시대의 도래(A Framework for Frontier AI and the Dawning of a New Age)”에서 최첨단 AI 모델이 지나치게 위험하다고 판단될 경우 개발 속도를 조율할 권한을 가진 조직이 필요하다고 밝혔다. 그는 미국이 경제·기술적 위상을 감안할 때 이 기구 설립을 주도하기에 가장 적합하다고 주장했다. 이는 하사비스와 업계 리더들이 점점 강력해지는 AI 시스템을 통제할 일관된 틀을 마련하려는 최근 움직임의 하나다. 현재로선 AI를 전담하는 국제 규범은 물론 미국 내 포괄적인 규제도 마련돼 있지 않은 상태다.
FINRA 본뜬 규제기구… “위험하면 멈출 권한”
하사비스가 제안한 조직은 미국의 금융산업규제기구(FINRA)를 모델로 한다. 독립 전문가와 오픈소스 커뮤니티 대표들로 구성되며 프론티어 모델(최첨단 대형 AI 모델)을 출시 전에 평가하고 위험도가 높다고 판단되면 산업 전반의 개발 속도 조절을 조율할 권한을 갖는다.
평가 프로토콜은 처음엔 자발적 참여로 시작해 이후 의무화하는 방식으로 설계됐다. 기구 운영 자금은 산업계가 부담하고 주기적으로 갱신되는 벤치마크를 활용해 모델을 평가한다는 계획이다. 다만 스타트업이나 학계 연구에서 나온 비프론티어 모델은 규제 대상에서 제외된다. 대기업이 규제를 명분으로 소규모 경쟁자를 억누르는 이른바 ‘규제 포획’ 비판을 피하기 위한 장치로 해석된다. 이런 방식의 개발 속도 조절은 앤트로픽이 최근 검토했던 방안과도 유사하다고 The Decoder는 전했다. 하사비스는 미국이 먼저 기준을 마련하면 국제사회가 이를 뒤따르며 핵심 쟁점에 대한 합의를 찾아야 한다고 봤다.
“AGI 몇 년 안에 온다”…불확실성 속 “신중한 낙관주의”
하사비스는 범용인공지능(AGI)이 “아마도 앞으로 몇 년 안에” 도래할 것으로 내다봤다. 그는 4월에도 AGI의 영향이 산업혁명보다 10배 크고 10배 빠르게 닥칠 수 있다고 언급한 바 있다. 5월에는 인류가 이미 “특이점의 초입에 서 있다”고 말하기도 했다. 이번 블로그에서도 그는 “수십 년 뒤 지금을 돌이켜보면 우리가 특이점의 초입에 서 있었다는 것을, 인류에게 새로운 시대가 열리는 순간이었다는 것을 깨닫게 될 것”이라고 썼다. 그의 이런 발언은 널리 논쟁을 불러일으킨 것으로 전해졌다.
하사비스는 기술 발전 속도가 인류의 이해 속도를 앞지르고 있다는 점을 우려했다. 그는 “지금부터 무슨 일이 벌어질지는 이 세상 누구도 확신할 수 없고 전문가들조차 의견이 엇갈린다”며 “불확실성이 크고 위험 부담이 이렇게 높을 때는 신중한 낙관주의로 나아가는 것이 합리적이고 올바른 전략”이라고 말했다.
트럼프 행정부에 물밑 설득… “반응 매우 긍정적”
하사비스는 이번 제안을 준비하며 수개월간 각국 정부와 업계를 상대로 사전 조율을 진행한 것으로 전해졌다. 악시오스(Axios)에 따르면 그는 트럼프 행정부와 다른 AI 연구소, 유럽 관계자들에게 이 구상을 미리 설명했다. 그는 연내 새 기구를 실제로 출범시키는 것을 목표로 하고 있다. 하사비스는 악시오스에 “(트럼프 행정부에서) 들려오는 반응은 매우 긍정적”이라고 말했다.
이번 제안은 저명한 AI 연구자와 경제학자들이 AI로 인한 대규모 실업 우려를 담은 성명을 발표한 직후 나왔다. 해당 성명에는 앤트로픽 공동창업자 잭 클라크(Jack Clark), 전 구글 CEO 에릭 슈미트(Eric Schmidt) 등 경제학자와 테크 업계 인사들이 이름을 올렸다. 하사비스는 이 성명에 서명하지 않았지만 잠재적 파급력에 대한 그의 주장은 유사한 맥락을 담고 있다. 다만 그의 제안은 경고성 메시지에 그치지 않고 구체적인 대응 방안을 제시했다는 점에서 차이가 있다.
노벨상 수상자의 거듭된 경고… 학계 이견도 여전
하사비스는 AI 기반 단백질 구조 예측 연구로 2024년 노벨화학상을 공동 수상했다. 그는 지난달에도 AI를 이용한 생물무기 제작을 막기 위한 더 강력한 보호 장치를 요구하는 성명에 서명했다. AI 위험성에 대한 그의 발언은 이번이 처음이 아니다.
지난 12월 하사비스는 공개 설전에 휘말리기도 했다. 얀 르쿤(Yann LeCun)이 언어모델 기반의 범용지능 개념을 “완전히 터무니없는 소리”이자 “완전히 망상적”이라고 평가하자 하사비스는 “르쿤이 명백히 틀렸다”고 공개 반박했다. 구글의 제미나이(Gemini) 공동 리드 오리올 빈얄스(Oriol Vinyals)는 두 사람의 입장 사이에서 중간 지점을 제시하기도 했다. AGI의 시기와 실체를 둘러싼 전문가들의 이견은 여전히 뚜렷하다.