구글 ‘프로즌 v2’ 칩, TPU보다 전력효율 6~10배 높여 2028년 출시

알파벳 산하 구글이 제미나이 AI 모델 전용 서버 칩 ‘프로즌 v2(Frozen v2)’를 개발하고 있다는 보도가 나왔다. 디인포메이션(The Information)이 소식통을 인용해 보도한 내용을 야후 파이낸스와 테크크런치(TechCrunch), 더 디코더(The Decoder)가 잇따라 전했다. 프로즌 v2는 전력당 생성 토큰 수를 기준으로 기존 텐서처리장치(TPU)보다 6~10배 효율적이라고 한다. 출시는 2028년으로 예정돼 있다. 보도가 나온 뒤 월요일(현지시각) 알파벳 주가는 최대 3%까지 뛰었다.

제미나이 아키텍처를 실리콘에 새긴다

프로즌 v2의 핵심은 제미나이 모델의 아키텍처(모델 구조) 일부를 하드웨어에 직접 새겨 넣는다는 점이다. 더 디코더에 따르면 이 아이디어는 구글 딥마인드 수석 과학자 제프 딘(Jeff Dean)에서 나왔다. 원래 구상은 모델 가중치(weights, AI가 질의에 응답하는 방식을 결정하는 구체적 설정값)를 칩에 직접 심는 방식이었다.

하지만 이 방식은 특정 제미나이 버전 하나에만 작동해 금방 구식이 될 우려가 있었고, 구글은 이 초안을 폐기했다. 대신 가중치가 아닌 아키텍처, 즉 모델의 뼈대만 하드웨어에 반영하는 쪽으로 방향을 바꿨다. 새 가중치는 이후에도 칩에 계속 올릴 수 있는 구조다. 다만 아키텍처의 어느 부분까지 하드코딩할지는 아직 결정되지 않았다고 더 디코더는 전했다. 이름 ‘프로즌’은 AI 모델 학습 과정에서 특정 파라미터 값을 더 이상 바꾸지 않도록 고정하는 ‘프리징(freezing)’ 개념에서 따왔다.

TPU와는 다른 길…내부 컴퓨팅 부족 해소용

프로즌 v2는 이미 양산 중인 구글의 TPU와는 별개 하드웨어다. TPU는 다양한 모델과 함께 쓸 수 있도록 설계됐지만, 프로즌 v2는 제미나이라는 특정 모델 구조에 맞춰졌다는 점에서 성격이 다르다. 더 디코더는 구글이 프로즌 v2를 TPU보다 생산 규모가 작은 시험적 특수 칩으로 보고 있다고 전했다.

구글은 TPU를 메타(Meta)에 임대하고 외부 클라우드 고객에도 제공하며, ‘TPU@프레미시스’ 프로그램을 통해 엔비디아(Nvidia)의 대안으로 자리매김시키려 하고 있다. 이를 통해 엔비디아 연간 매출의 10%를 확보하겠다는 내부 목표도 세운 상태다. 반면 프로즌 v2는 같은 모델 아키텍처를 계속 유지하는 동안에만 제 역할을 하는 구조여서, 외부 고객용 제품이 되기는 어려울 것으로 보인다. 더 디코더는 이 칩이 외부 판매보다는 구글 내부의 AI 컴퓨팅 용량 부족을 완화하려는 목적에 가깝다고 분석했다.

엔비디아 의존 벗어나려는 AI 업계 전체 흐름

테크크런치는 AI 기업들이 자체 칩 개발에 나서는 배경으로 두 가지를 짚었다. 자사 모델을 더 효율적으로 돌리려는 목적과 전 세계적인 AI 컴퓨팅 용량 부족 문제 대응이다. AI 지출에 대한 우려가 업계 전반의 낙관론을 눌러온 가운데, 효율성은 이제 기술기업들의 핵심 마케팅 포인트가 됐다는 설명이다.

동시에 주요 업체들은 오랫동안 AI 칩 시장을 지배해온 엔비디아에 대한 의존을 줄이려는 시도를 계속하고 있다. 오픈AI(OpenAI)는 지난 6월 첫 자체 칩인 추론 프로세서 ‘할라피뇨(Jalapeño)’를 발표했다. 이달 초에는 앤트로픽(Anthropic)이 삼성과 새로운 칩 제조 파트너십을 논의 중이라는 보도도 나왔다. 구글의 프로즌 v2 역시 이런 흐름 속에서 나온 시도로 볼 수 있다.

투자자가 주목하는 이유

구글은 프로즌 v2 보도에 대해 직접 확인도, 부인도 하지 않았다. 테크크런치에 보낸 답변에서 구글은 “우리 팀은 사용자와 고객에게 최고의 성능과 효율을 제공하기 위해 새로운 혁신을 끊임없이 연구하고 실험하고 있다”며 “모든 프로젝트가 실제 생산 단계로 이어지진 않지만, 이런 철저한 탐구가 우리의 풀스택 접근 방식에서 핵심적인 부분”이라고 밝혔다. 이어 “하드웨어와 소프트웨어를 처음부터 함께 설계함으로써 시스템이 실제 작업 환경에 맞춰 통합되고 고도로 최적화되도록 하고 있다”고 덧붙였다.

투자자들은 알파벳이 올해 초 밝힌 1800억~1900억 달러 규모의 대규모 AI 투자 계획을 지켜보고 있다. 막대한 자금이 투입되는 만큼 그 투자가 실제 수익으로 돌아온다는 것을 증명해야 하는 상황이다. 프로즌 v2 소식은 이번 주 예정된 알파벳 실적 발표를 앞두고 투자자들의 우려를 다소 누그러뜨린 것으로 보인다. 다만 지난주 블룸버그는 알파벳의 가장 강력한 모델인 제미나이 3.5 프로 개발이 일정보다 지연되고 있다고 보도한 바 있다. 프로즌 v2가 2028년에 실제로 나올지, 또 얼마나 성능을 발휘할지는 아직 지켜봐야 할 부분이다.