앤트로픽 아모데이, AI 반발 책임론에 “신뢰의 위기” 반박…투자자와 정면충돌

앤트로픽(Anthropic) 최고경영자 다리오 아모데이(Dario Amodei)가 자신이 인공지능(AI)에 대해 지나치게 비관적인 그림을 그려왔다는 지적에 반박했다. 투자자 개빈 베이커(Gavin Baker)가 올인 팟캐스트(All-In podcast)와 X(옛 트위터)에서 아모데이의 위험 경고가 미국 내 AI 반발, 특히 데이터센터 반대 여론을 부추겼다고 주장한 데 대한 대응이다. 아모데이는 대중이 AI에 부정적 인식을 갖고 있다는 점은 인정했지만 그 원인이 자신 같은 업계 리더들의 경고 때문이라는 분석에는 동의하지 않았다. 그는 이를 “근본적으로 신뢰의 위기”라고 규정했다. 한편 아모데이는 별도 에세이에서도 같은 진단을 내놓으며 구체적 위험 4가지와 2억 달러(약 2,830억원, 1달러 1,415원 기준) 규모의 연구 투자 계획을 제시했다.

투자자 베이커와 정면충돌…“긍정적 옹호자 돼야” 압박

개빈 베이커는 아모데이가 AI 규제 논쟁에서 “논쟁에 졌다”고 주장했다. 앤트로픽은 대형 AI 기업에 투명성 의무를 부과하는 캘리포니아주 법안 등 일부 규제를 지지해온 곳이다. 베이커는 아모데이가 “세계에서 가장 중요한 기업 중 한 곳의 최고경영자가 되려는 상황”이라며 “자신이 속한 산업을 좀 더 긍정적으로 옹호하는 노력을 해야 한다고 생각한다”고 적었다.

베이커만 이런 시각을 가진 것은 아니다. AI에 대한 회의론과 정부 규제 움직임이 일부 AI 경영진의 심각한 경고를 그대로 받아들인 결과라는 주장은 업계 안팎에서 꾸준히 제기돼 왔다. 하지만 아모데이는 자신의 메시지가 “불균형하게 부정적”이었다는 지적에 동의하지 않았다. 그는 자신의 글이 “위험과 이익에 대해 거의 균형 있게” 다뤄왔다고 반박했다. 앞서 쓴 에세이 “머신스 오브 러빙 그레이스(Machines of Loving Grace)”도 AI 업계가 기술이 세상을 긍정적으로 바꿀 수 있다는 비전을 충분히 설득력 있게 보여주지 못했다고 느껴서 쓴 글이라고 설명했다.

“대중은 기업·정부·기술산업을 믿지 않는다”

아모데이는 대중이 AI에 부정적 인식을 갖고 있다는 사실 자체는 “큰 문제”라고 인정했다. 다만 이 문제가 자신이나 다른 AI 리더들의 위험 경고 때문에 “주로 발생했다”는 분석에는 선을 그었다.

그는 “근본적으로 이것은 신뢰의 위기라고 생각한다”며 “일반 사람들은 기업, 정부, 기술 산업을 믿지 않고 우리가 그들을 속일 새로운 방법을 꾸미고 있다고 늘 의심한다”고 말했다. 신뢰라는 단어는 AI 업계를 둘러싼 논쟁, 특히 오픈AI(OpenAI) 최고경영자이자 아모데이의 경쟁자인 샘 올트먼(Sam Altman)을 둘러싼 논쟁에서도 자주 등장하는 표현이다. 아모데이는 이 신뢰 위기가 수십 년에 걸쳐 쌓여온 것이며 AI를 향한 반발은 그 “가장 최근 버전일 뿐”이라고 짚었다.

앤트로픽도 자성 “약속을 못 지킨 게 진짜 비판거리”

아모데이는 앤트로픽을 포함한 AI 기업들을 향한 가장 정확한 비판은 “세상에 이익을 주겠다는 큰 약속을 아직 지키지 못했다는 것”이라고 인정했다. 그는 “이건 전적으로 우리 책임이고, 메시징이나 마케팅 얘기 대신 바로 이 비판을 해야 한다고 생각한다”고 말하며 앤트로픽이 “이를 고치기 위해 최선을 다하고 있다”고 덧붙였다.

규제를 둘러싼 논쟁에서는 베이커가 “거짓 선택지”를 제시하고 있다고 반박했다. AI를 규제 없이 널리 확산시키거나 규제를 통해 소수 기업에 기술을 집중시키는 두 가지 중 하나를 골라야 한다는 프레임 자체가 잘못됐다는 것이다. 아모데이는 “실리콘밸리에는 규제=규제 포획=권력 집중이라는 일종의 통용 논리가 있지만 나는 이것이 세상을 지나치게 단순화한 그림이라고 항상 생각해왔다”고 말했다. 그는 “이 버블 밖의 많은 사람은 규제를 기업 권력을 억제하고 일반 사람들에게 이익이 되는 장치로 본다”고 설명했다. 그러면서도 이 관점에 “꼭 동의하는 것은 아니다”라며 앤트로픽이 정책 제안을 매우 조심스럽게 설계해온 이유가 여기에 있다고 말했다. 그는 “최전선 AI 기업의 속도를 늦추면서도 소규모 경쟁사에는 유리하게 작용하는 제안을 만들려고 매우 애쓰고 있다”고 덧붙였다.

2억 달러 투입한 별도 에세이…4대 위험과 FAA식 규제 제안

아모데이는 “Policy on the AI Exponential”이라는 별도 에세이에서 AI를 둘러싼 반발을 소통의 위기가 아니라 신뢰의 위기로 규정했다. 이 글에서 그는 대중의 불안이 근거 없는 공포가 아니라 실제로 잘 알려진 위험에 뿌리를 두고 있다고 주장했다. 그는 사이버보안 위협, 생물무기 개발, AI 시스템에 대한 인간의 통제력 상실, 완전 자동화된 연구개발 가능성 등 네 가지를 구체적으로 우려해야 할 위험 범주로 꼽았다.

이를 뒷받침하기 위해 아모데이는 상당한 컴퓨팅 자원으로 훈련된 모델에 대해 독립적인 제3자 평가를 의무화하자고 제안했다. 평가 대상은 앞서 언급한 4가지 위험 범주다. 앤트로픽은 이 구상을 뒷받침하기 위해 AI가 사회 전반에 미치는 영향을 이해하는 연구에 2억 달러(약 2,830억원, 1달러 1,415원 기준)를 투입하겠다고 밝혔다. 아모데이는 AI 자동화로 인한 노동시장 충격을 완화하기 위한 임금 재보험 프로그램과 표적화된 세제 조치도 명시적으로 요구했다.

에세이 공개 시점에 맞춰 진행된 ABC뉴스와의 인터뷰에서 아모데이는 추가 정책 제안도 내놨다. 가장 눈에 띄는 대목은 정부기관에 안전하지 않다고 판단되는 AI 배포를 중단시킬 권한을 부여하자는 제안이다. 그가 선호하는 규제 모델은 미국 연방항공청(FAA) 방식에서 착안한 것으로 전해졌다. 관련 보도는 항공안전 규제가 항공산업을 무너뜨리지 않고 오히려 비행을 지구상에서 가장 안전한 대중교통 수단으로 만들었다는 점을 그 근거로 들었다.