팔란티어·엔비디아·부즈앨런, 앤트로픽·오픈AI 데이터 보장 압박…MS는 불신을 기회로

팔란티어 테크놀로지스, 엔비디아, 부즈 앨런 해밀턴 등 대형 기술기업들이 앤트로픽과 오픈AI에 지적재산권을 오용하지 않는다는 보장을 요구하고 있다. 보장이 없으면 두 회사의 고급 AI 모델 사용을 제한하거나 아예 중단할 수 있다는 것이다. 디인포메이션이 이런 내용을 보도했다고 로이터가 9월 14일(현지시각) 전했다.

같은 보도에서 마이크로소프트는 이런 데이터 우려를 오히려 사업 기회로 삼고 있는 것으로 나타났다. 격리된 클라우드 환경과 자체 AI 제품을 앞세워 고객을 끌어들이고 있다는 것이다. 로이터는 이 내용을 사정에 밝은 관계자들을 인용한 디인포메이션 보도로 전했다.

왜 갑자기 데이터 보장을 요구하나

논란의 시작점은 앤트로픽이 6월 도입한 정책 변경이다. 페이블(Fable) 모델에 대해 “복잡하고 새로운 공격”을 방어한다는 명목으로 사용 로그를 30일간 보관할 권리를 회사 측이 갖도록 한 것인데, 이 조치가 고객들의 반발을 불렀다고 로이터는 전했다.

오픈AI도 비슷한 감시에 놓여 있다. 사용자 데이터를 수학 문제 풀이에 활용하는 방식으로 모델을 학습시켰을 수 있다는 주장이 제기되면서다. 두 회사 모두 자사 최상위 AI 모델을 다루는 만큼, 고객사들 사이에서 데이터가 어떻게 쓰이는지에 대한 불안이 누적된 셈이다.

기업 고객들이 우려하는 지점은 결국 한 가지다. 자사 업무에 쓰이는 데이터나 결과물이 모델 학습에 재활용되거나 외부로 흘러나갈 가능성이다. 이런 우려가 실제 사용 제한이라는 구체적 조치로 이어지고 있다는 점이 이번 보도의 핵심이다.

팔란티어·엔비디아·부즈 앨런, 저마다 다른 방식으로 선을 긋다

팔란티어는 논의에 밝은 한 관계자를 인용한 보도에 따르면 자사 소프트웨어를 통해 앤트로픽 모델을 제공하기 전에 취소 불가능한 제로 데이터 보존(zero-data-retention) 보장을 제공하라고 앤트로픽에 압박하고 있다. 데이터를 일절 보관하지 않겠다는 확약을 먼저 받아내겠다는 것이다.

엔비디아는 이미 앤트로픽 모델의 활용 범위를 스스로 좁혀뒀다. 상대적으로 덜 민감한 업무에만 앤트로픽을 쓰도록 하고, 내부 작업에는 자체 개발한 네모트론(Nemotron) 모델을 쓰고 있다고 로이터는 전했다.

부즈 앨런 해밀턴의 대응은 더 단호하다. 직원들이 독점적인 사이버보안 업무에 앤트로픽의 상업용 모델을 쓰는 것을 금지했다. 국방·정보 분야 고객을 다수 상대하는 회사 특성상 데이터 보안에 더 민감할 수밖에 없다는 점이 엿보이는 조치다.

마이크로소프트의 셈법과 아모데이의 속도 조절 촉구

세 회사가 저마다 방화벽을 치는 사이 마이크로소프트는 다른 셈을 하고 있다. 격리된 클라우드 환경과 자체 AI 제품을 함께 제시하며 데이터 우려가 있는 고객을 자사 쪽으로 끌어오려 한다는 것이 로이터가 전한 디인포메이션 보도의 골자다.

공교롭게도 비슷한 시점 앤트로픽 최고경영자 다리오 아모데이는 지난 토요일 AI 기업들이 최전선 모델 개발 속도를 늦춰야 한다고 촉구했다. AI 능력이 연구자들이 이해하거나 통제할 수 있는 속도보다 빠르게 발전하고 있다는 경고다.

이 입장은 오픈AI 최고경영자 샘 알트먼과 일론 머스크가 곧바로 동조하면서 화제가 됐다. 데이터 사용을 둘러싼 고객사들의 불신이 커지는 시점에, AI 업계 최고경영자 스스로 속도 조절을 언급했다는 점이 눈에 띈다.

앤트로픽·오픈AI의 해명, 남은 물음표

앤트로픽과 오픈AI 두 회사는 기업 고객이 옵트인(opt-in)하지 않는 한 기본적으로 고객 데이터를 모델 학습에 쓰지 않는다고 해명했다. 다만 제품 개선을 위해 익명화한 메타데이터는 수집한다고 로이터는 전했다.

그럼에도 팔란티어의 제로 데이터 보존 요구나 엔비디아·부즈 앨런의 사용 제한은 이런 해명만으로는 해소되지 않는 불신이 남아 있음을 보여준다. 팔란티어, 엔비디아, 부즈 앨런, 앤트로픽, 오픈AI는 모두 로이터의 취재 요청에 즉각 응답하지 않았다.

빅테크와 AI 랩 사이의 신뢰 문제는 단순한 정책 문구 하나로 끝날 사안이 아니다. 국방·금융 등 민감한 분야를 다루는 고객사일수록 데이터 보존과 학습 활용 여부에 대한 명문화된 보장을 요구할 가능성이 커지고 있다.