세일즈포스·엔비디아 합작 추론모델 ‘코아’ 등장, 고객데이터 없이 27년 경험 학습시켰다

세일즈포스가 엔비디아와 손잡고 만든 첫 자체 추론모델 ‘코아(Koa)’를 공개했다. 9월 15일(현지시각) 미국 샌프란시스코에서 열린 연례 콘퍼런스 드림포스 2026에서다. 코아는 엔비디아의 오픈웨이트(가중치 공개) 모델 네모트론(Nemotron)을 기반으로, 두 회사가 함께 영업·마케팅·고객지원 업무에 특화하도록 사후훈련(post-training)한 모델이다. 세일즈포스는 실제 고객 데이터를 전혀 쓰지 않고 이 모델을 훈련했다고 밝혔다.

왜 지금 자체 추론모델을 내놓았나

세일즈포스 AI 부문 EVP 제이시 고빈다라잔은 테크크런치(TechCrunch)에 “업무 특화형 소형 언어모델은 이미 여러 개 만들어 아젠트포스(Agentforce) 포트폴리오에 포함시켰지만, 추론만큼은 지금까지 프런티어 모델 제공업체에 의존해왔다”고 말했다. 코아 이전에는 여러 단계를 거쳐야 하는 작업을 아젠트가 처리할 때, 아젠트포스의 AI 게이트웨이가 클로드나 챗GPT 같은 프런티어 모델로 요청을 넘기는 구조였다.

고빈다라잔은 자체 모델을 만들지 못했던 이유로 사전훈련된 기반 모델의 부재를 들었다. 그는 “네모트론이 나오기 전까지는 개방돼 있고 최신 수준이며 데이터 출처가 명확한 미국산 사전훈련 모델이 없었다”며 “Qwen이 무엇으로 학습됐는지 우리는 전혀 알 수 없다”고 알리바바의 중국산 오픈웨이트 모델을 언급했다.

실제 고객 데이터 없이 27년 경험을 학습시키다

세일즈포스와 엔비디아는 네모트론3 슈퍼(Nemotron 3 Super)를 기반 모델로 놓고, 27년치 CRM(고객관계관리) 구축 경험을 본떠 만든 합성 데이터셋으로 사후훈련을 진행했다. 세일즈포스 최고플랫폼·엔지니어링책임자 로한 쿠마르는 “CRM을 구축하며 지난 27년간 쌓아온 지식이 방대하다”며 “특정 업무에 특화된 정보를 더 얹어 모델을 사후훈련하는 것, 그것이 코아의 시작”이라고 설명했다.

훈련 데이터는 실제 사례가 아니라 시뮬레이션이다. 고빈다라잔은 “화가 난 고객이 전화하는 상황부터 거래를 성사시키려는 영업 담당자까지, 페르소나를 부여한 고객서비스 환경을 통째로 시뮬레이션했다”고 밝혔다. 제조·의료·여행·금융 등 14개 산업에 걸친 시나리오마다 특정 역할과 과업을 짝지운 뒤, 아젠트가 그 과업을 완료하기 위해 거쳐야 하는 행동과 툴 호출 순서까지 매핑했다고 세일즈포스는 설명했다. 쿠마르에 따르면 지도학습 미세조정과 강화학습, ‘그룹 상대적 정책 최적화’ 기법을 결합해 코아가 여러 단계의 툴 호출을 정확히 수행하도록 가르쳤다.

벤치마크 성적표와 토큰 효율

세일즈포스는 자체 CRM 벤치로 코아를 시험했다. 기회(오퍼튜니티) 업데이트, 케이스 라우팅, 후속 일정 조율 같은 실제 업무 과제를 놓고 측정한 결과 코아는 주요 범용 모델과 맞먹거나 웃도는 성능을 내면서 오류는 3배 적었다고 보고했다. 기존에 기본으로 쓰이던 범용 모델과 비교해 올바른 행동을 호출하는 정밀도가 11% 높고, 신뢰도는 2.1배, 긴 대화에서 맥락을 유지하는 능력은 15% 더 우수하다고도 밝혔다.

엔비디아의 생성형AI 소프트웨어 부문 VP 캐리 앤 브리스키는 “토큰 경제성을 위해서는 주권형 AI, 첫 토큰까지 걸리는 시간, 효율적인 추론이라는 세 가지가 모두 필요한데 네모트론은 이를 위한 독특한 추론 아키텍처를 갖췄다”고 말했다. 독립 벤치마크 플랫폼 아티피셜 애널리시스 기준으로 네모트론3 울트라(약 5,500억 개 파라미터, 활성 파라미터 550억 개)는 인텔리전스 인덱스에서 23점을 받아 약 300개 모델 가운데 중위권에 머물렀다. 같은 지표에서 클로드 페이블 5.1과 GPT-6 아스트라가 각각 53점으로 공동 1위였다.

오픈웨이트 모델군 157개 중에서는 네모트론3 울트라가 25위였고, Z.ai의 GLM-5.3이 45점으로 선두였다. 다만 미국산 오픈웨이트 모델 중에서는 Thinking Machines의 Inkling 모델(26점)에 이어 3위로, 메타의 Muse Glimmer(18점)와 구글 젬마4(17점)보다는 앞섰다. 초당 처리 토큰 수는 204개로 중국계 경쟁 모델보다 빠른 편이라고 아티피셜 애널리시스는 측정했다.

파일럿 고객과 남은 일정

코아는 아직 일반에 공개되지 않았다. 아젠트포스 안에서 확대된 파일럿 프로그램을 통해 선별된 고객에게만 제공되고 있으며, 미국 리전 기준 겨울 중 정식 출시를 계획하고 있다고 쿠마르는 밝혔다. 이후 오픈 베타도 이어질 예정이다. 현재 포뮬러1, 제로, 백스터 신용조합, 시카고대 메디신 등이 파일럿에 참여하고 있다.

1-800어카운턴트의 최고전략책임자 라이언 티플스는 “세무 규정과 금융 데이터, 고객마다 다른 상황을 함께 다뤄야 하는 회계 업무에서 코아는 단계별로 그 복잡성을 풀어갈 추론 능력을 상담원에게 준다”고 말했다. 세일즈포스는 이와 별도로 100만 토큰 컨텍스트를 지원하는 네모트론3 나노를 아젠트포스에 바로 들여와, 규제 산업 고객이 온프레미스나 프라이빗 클라우드에서 돌릴 수 있게 할 계획이다. 정부 등 규제 분야 고객을 위한 미션포스 오퍼레이션스에도 엔비디아 네모트론 모델군 전체를 통합해 오는 10월부터 에어갭(외부망 완전 차단) 환경에서 조달·공급망 관리 업무를 자동화할 수 있도록 지원한다.

세일즈포스는 그러면서도 앤트로픽과의 관계를 접지 않았다. 클로드를 AI 인터페이스로 쓰면서 데이터는 세일즈포스 시스템 안에 그대로 두는 ‘클로드포스’ 파트너십을 함께 발표했다. 앞서 로이터는 디인포메이션 보도를 인용해, 엔비디아가 내부 업무에는 자체 네모트론 모델을 쓰고 앤트로픽에는 상대적으로 덜 민감한 업무만 맡기는 방식으로 이미 선을 그어뒀다고 전했다. 데이터 주권과 보안을 둘러싼 기업들의 요구는 코아 같은 자체 훈련 모델이 등장한 배경과도 맞물린다.