세레브라스 CS-4, GPU 대비 추론속도 최대 30배 빨라…초당 4400토큰 실측

세레브라스 시스템즈(Cerebras Systems)가 4세대 AI 가속기 CS-4를 공개했다. 미국 캘리포니아주 선니베일에서 8월 18일(현지시각) 발표된 이 시스템은 GPU 기반 솔루션보다 추론 속도가 최대 30배 빠르다고 회사는 밝혔다. 새로 선보인 웨이퍼 스케일 엔진 3 터보(WSE-3T) 프로세서 3개를 기반으로 하며, 이전 세대 CS-3보다 처리 속도는 최대 2배, 와트당 처리량은 최대 10배 늘었다. 회사는 CS-4가 50조 개 파라미터 규모의 모델까지 지원할 수 있다고 설명했다. 초거대 모델을 서비스하는 데이터센터의 경제성과 응답 속도를 동시에 끌어올리려는 시도로 풀이된다.

웨이퍼 하나에 트랜지스터 4조 개…WSE-3T의 정체

CS-4의 심장은 새로 공개된 WSE-3T다. 이 프로세서는 트랜지스터 4조 개와 AI 최적화 코어 90만 개를 4만6,225제곱밀리미터 면적의 실리콘 위에 집적했다. 웨이퍼에는 44기가바이트(GB) SRAM이 직접 내장돼 있다. 회사에 따르면 이전 세대 WSE-3와 비교해 웨이퍼당 AI 연산 성능은 250페타플롭스로 두 배 늘었고, 메모리 대역폭도 초당 43.2페타바이트로 두 배가 됐다.

온칩 패브릭 대역폭과 오프칩 입출력(I/O) 대역폭도 각각 초당 53.5페타바이트, 2.4테라비트로 두 배씩 뛰었다. 입출력 지연 시간은 5마이크로초에서 최소 2마이크로초까지 줄었다. 세레브라스는 메모리 대역폭이 속도와 처리량을 좌우하는 핵심 변수라며, 이번 대역폭 확대가 실질적인 속도 개선으로 이어진다고 설명했다. CS-4 랙 한 대는 이런 WSE-3T 3개를 묶어 750페타플롭스 AI 연산력, 초당 129.6페타바이트 메모리 대역폭, 초당 7.2테라비트 입출력 대역폭을 낸다.

랙 하나 통째로 갈아엎은 넥서스 플랫폼

CS-4는 세레브라스가 새로 선보인 넥서스(Nexus) 랙스케일 플랫폼 아키텍처의 첫 제품이다. 컴퓨팅, 전력, 입출력이라는 세 요소를 독립적으로 모듈화해 각 요소의 혁신이 서로 발목을 잡지 않도록 설계했다는 게 회사 설명이다.

가장 눈에 띄는 변화는 이른바 백팩(Backpack) 디자인이다. 전력 변환, 직접 액체 냉각, 고속 입출력, 제어 전자장치를 하나로 묶은 컴퓨팅 서브시스템을 전력 어레이에 수직으로 붙이는 후면 장착형 구조로 바꿨다. 세레브라스는 이 구조로 이전 세대 시스템보다 부품 수를 50% 줄이고 자동화 생산 비율을 60% 높였다고 밝혔다. 배포 시간도 며칠에서 몇 시간 단위로 줄었다고 회사는 설명했다.

전력 전달 방식도 손봤다. 기존 GPU 보드에서 전력 변환 장치가 프로세서로부터 약 50밀리미터 떨어져 있었다면, CS-4는 이 거리를 약 0.5밀리미터로 좁혀 100배 가깝게 붙였다. 그 결과 보드 단위 전력 손실이 거의 사라졌고, WSE-3T에 공급되는 전력량은 두 배로 늘었다고 한다. 입출력 서브시스템 역시 새로 프로그래밍이 가능한 구조로 바뀌면서 대역폭이 두 배로 늘고 지연 시간은 줄었다. 이더넷 기반 RoCE v2 RDMA 표준을 지원해 기존 인프라와의 호환성도 확보했다. 다이렉트 웨이퍼 링크(Direct Wafer Links)라는 새 통신 모드는 스위치를 거치지 않고 웨이퍼 간 지연 시간을 최소 2마이크로초까지 낮췄다.

1200억 파라미터 모델서 초당 4400토큰…실측치로 증명

세레브라스는 CS-4의 속도를 구체적인 벤치마크로 뒷받침했다. 오픈소스 모델인 GPT-OSS-120B, 파라미터 1200억 개 규모 모델을 동일한 프롬프트로 테스트한 결과 사용자 1명당 초당 4,400개 이상의 토큰을 생성했다고 밝혔다. 이는 GPU 기반 솔루션 대비 최대 30배 빠른 수치라는 게 회사 설명이다.

앤드루 펠드먼 세레브라스 최고경영자(CEO) 겸 공동창업자는 “AI에서 속도는 곧 생산성”이라며 “과거에는 빠른 추론을 위해 더 작고 성능이 낮은 모델을 써야 했지만, CS-4는 가장 큰 프런티어 모델에서도 업계 최고 속도를 낸다”고 말했다. 그는 “CS-4로 AI는 워낙 빨라져 제품 경험 자체를 근본적으로 바꿔놓는다”고 덧붙였다.

션 리 최고기술책임자(CTO) 겸 공동창업자는 속도 향상이 단순한 체감 차이를 넘어선다고 봤다. 그는 “30배 빠르다는 것은 응답이 빨라 보이는 것 이상의 의미”라며 “같은 시간 안에 에이전트 시스템이 훨씬 더 많은 추론과 검증, 도구 사용을 할 수 있는 여유를 준다”고 설명했다.

세미애널리시스(SemiAnalysis)의 딜런 패텔 설립자 겸 최고경영자도 평가를 남겼다. 그는 “CS-4는 시스템 배포 편의성과 안정성, 네트워킹에서 극적인 개선을 이뤄 더 큰 모델로 성능을 확장하는 대규모 토큰 생산에 도움을 준다”며 “초고속 추론 수요가 계속 커지는 상황에서 세레브라스의 새 하드웨어가 프런티어급 속도를 지키는 데 기여할 것”이라고 말했다.

시장은 신중한 반응…AI 반도체 경쟁 다음 라운드로

CS-4 공개 소식을 전한 야후파이낸스는 같은 소식을 전하며 세레브라스 시스템즈(나스닥: CBRS) 주가가 220.01달러로 12.7% 하락 마감했다고 덧붙였다. 신제품 공개가 곧바로 주가 상승으로 이어지지는 않은 셈이다.

그럼에도 CS-4가 던지는 메시지는 명확하다. GPU 중심으로 짜여 있던 AI 추론 인프라 시장에 웨이퍼 스케일이라는 대안을 다시 한번 각인시키겠다는 것이다. 회사 측은 CS-4가 개발자에게는 30배 빠른 반응형 추론과 에이전트형 애플리케이션을, 데이터센터 운영사에는 기가와트당 높은 처리량을, 네오클라우드와 하이퍼스케일러에는 기가와트 규모로 빠르게 제조·설치·확장·업그레이드할 수 있는 모듈형 시스템을 제공한다고 강조했다. 50조 개 파라미터급 모델까지 지원하는 클러스터를 구성할 수 있다는 점도 초거대 모델 시대를 겨냥한 포석으로 읽힌다.