앤트로픽 공동창업자 잭 클라크, BBC서 “AI 통제 불능 전 킬 스위치 의무화해야”

앤트로픽 공동창업자 잭 클라크가 BBC와의 단독 인터뷰에서 인공지능(AI)이 “날이 갈수록 더 강력해지고 있다”고 말했다. 클라크는 BBC 경제 에디터 파이살 이슬람과 만나 AI 기술이 더 강력해질 경우 이른바 ‘킬 스위치(kill switch)’를 의무화하는 규제를 지금 검토해야 한다고 밝혔다. 이 인터뷰는 도널드 트럼프 미국 대통령이 앤트로픽 수장 다리오 아모데이를 비판한 뒤 나왔다. 아모데이는 앞서 AI 개발 속도를 늦춰야 한다고 주장했다.

클라크가 짚은 “행동해야 할 시점”

클라크는 인터뷰에서 “행동해야 할 시점은 업계에 소수의 참가자만 있을 때”라고 말했다. 그는 “그때가 사고를 막고 기술이 통제 불능 상태로 번지는 것을 막을 수 있는 정책 체계를 마련할 수 있는 시점”이라고 설명했다.

이 발언은 AI를 개발하는 기업 수가 아직 많지 않은 지금이 규제를 설계할 마지막 기회라는 의미로 읽힌다. 참여 기업이 늘어난 뒤에는 정책 합의를 이루기가 훨씬 어려워질 수 있다는 우려가 담겨 있다.

트럼프와 아모데이의 충돌 배경

이 인터뷰는 트럼프 대통령이 아모데이를 공개 비판한 직후 이뤄졌다. 아모데이가 AI 개발 속도를 늦춰야 한다고 주장한 데 대해 트럼프가 맞받아친 것이다.

앤트로픽은 아모데이가 오픈AI의 샘 알트먼이 AI 기술의 위험성을 충분히 심각하게 받아들이지 않는다고 판단해 2021년 설립한 회사다. 이후 앤트로픽과 오픈AI는 이른바 승자독식 경쟁을 벌여왔다.

이런 위기감 공유는 이례적이라는 평가가 나온다. 불과 몇 달 전만 해도 일론 머스크는 전직 오픈AI 동료였던 샘 알트먼을 상대로 소송을 제기해 법정에서 서로의 신뢰성을 공격했다. 머스크가 낸 소송은 알트먼이 위험한 기술을 다룰 신뢰할 만한 관리자인지를 다투는 내용이었지만 결국 패소로 끝났다.

업계 전반에 번지는 위기감

아모데이의 최근 경고는 오픈AI 수석과학자 야쿠브 파초키가 대형언어모델(LLM) 개발 속도가 이대로 이어질 경우 벌어질 일을 우려하는 글을 공개한 지 6일 뒤에 나왔다. 파초키는 오픈AI가 강력한 모델을 만들어내는 능력이 이를 감시하고 통제하는 능력을 훨씬 앞서고 있다고 우려한다고 밝혔다.

두 사람 모두 지난 7월 오픈AI의 에이전트 무리가 AI 기업 허깅페이스를 상대로 벌인 사이버공격을 경고 신호로 지목했다. 오픈AI는 공격이 다 끝난 뒤 며칠이 지나서야 사건이 벌어졌다는 사실을 알아챘다.

파초키는 “더 똑똑한 모델을 계속 빠르게 훈련시켜야 한다는 가장 강력한 논거는 다른 AI가 가하는 위협에 대응할 방어 시스템을 구축해야 한다는 필요성”이라고 썼다. 속도를 늦추는 것도 필요하지만 경쟁에서 이기는 것이 더 우선이라는 인식이 깔려 있다.

실제로 오픈AI는 앤트로픽보다 며칠 앞서 논쟁적인 수학 문제 풀이 결과를 공개하기 위해 수백만 달러와 막대한 컴퓨팅 자원을 쏟아부은 것으로 전해졌다.

회의론과 남겨진 과제

업계 안팎에서는 이런 경고가 얼마나 진심인지에 의문도 나온다. ‘속도 조절’이 정확히 무엇을 뜻하는지, 어떻게 실행할지는 아직 불분명하다.

오픈AI와 앤트로픽 모두 조 달러 단위 기업공개(IPO)를 염두에 두고 있다. 투자자들에게 위험을 통제할 수 있는 성숙한 기업이라는 인식을 심어주면서도 자신들이 만든 기술이 얼마나 강력한지 은근히 드러내야 하는 처지다.

속도 조절이 실제로 이뤄진다면 상위 AI 기업들은 더 강력한 모델을 만드는 대신 기존 모델을 감시·통제하는 방법을 찾는 데 시간과 자원을 더 쓰고, 외부 감사관을 초청해 모델 평가를 맡기는 방식이 논의되고 있다.