이 기사는 국내 최대 해외 투자정보 플랫폼 한경 글로벌마켓에 게재된 기사입니다.
구글의 텐서처리장치(TPU)가 가 엔비디아의 그래픽처리장치(GPU)에 대항마가 될 수 있을까? 지금까지 엔비디아의 그래픽처리장치(GPU) 의존도를 넘어서기 위해 많은 기술 대기업들이 자체 칩을 개발해왔지만, 텐서칩에 대한 기대는 다른 기업들의 자체 개발칩과 달리 진지하다.
25일(현지시간) 정보기술전문매체인 더 인포메이션은 메타 플랫폼이 구글의 텐서칩에 수십억 달러를 투자하기 위해 협상중이라고 보도했다. 이와 함께 메타 플랫폼이 2027년 데이터센터에서 TPU를 사용하는 방안을 논의중이며 내년에 구글 클라우드로부터 구글의 TPU를 임대할 수도 있다고 보도했다.
인포메이션은 구글이 엔비디아 칩 매출의 10% 정도를 TPU 칩 사업에서 얻는 것을 목표로 하고 있다고 덧붙였다.
마켓워치에 따르면, 구글은 최근 아이언우드라는 7세대 TPU를 출시했다. 아이언우드는 대규모 추론, 즉 학습후 AI모델을 실행하는 과정을 위해 설계된 첫 TPU로 꼽힌다. 메타에 공급되는 것은 아이언우드 버전으로 추정된다.
구글의 TPU는 구글 자체 사용을 위해 2016년부터 브로드컴과 공동 개발해온 주문형 반도체(ASIC)이다. 구글 자체 검색엔진을 가동하고, AI모델을 훈련하고 구동하기 위해 개발됐지만 외부에 판매되는 것이 처음은 아니다.
이달 초, 아마존이 후원하는 AI스타트업 앤스로픽은 이달 초 AI 컴퓨팅 자원을 강화하기 위해 최대 100만개의 TPU를 확장할 계획이라고 발표했다.
월가 분석가들도 구글의 TPU는 엔비디아의 GPU외에는 시장에서 가장 확실한 추진력을 갖고 있다고 평가하고 있다.
멜리어스 리서치의 분석가 벤 라이츠는 구글의 TPU칩이 “구글 외부로 판매되면서 알파벳의 성장 전략에서 큰 부분을 차지할 것”으로 예상했다.
그는 만약 “제미나이3가 챗GPT 등을 제치고 AI 전쟁에서 승자가 된다면 여러 기술 주식에 타격을 줄 것”이라며 투자자들에게 변동성에 대비하라고 경고하기 까지 했다. 알파벳은 인하우스로 공급하는 TPU와 맞춤형 네트워킹을 갖고 있어 “가장 수직적으로 통합된 하이퍼 스케일러이기 때문”이라는 것이다.
블룸버그 인텔리전스의 분석가인 맨딥 싱과 로버트 비거는 “대규모언어모델(LLM)을 제공하는 업체들이 추론용 AI가속기의 보조 공급업체로 구글을 활용할 가능성이 높다”고 언급했다.
메타는 내년에 최소 1천억달러(약 147조원) 달하는 자본지출(CAPEX)를 계획하고 있다. 이 가운데 추론용 칩 용량으로만 최소 400억달러~500억달러를 지출할 것으로 예상된다. 물론 대부분은 엔비디아 칩에 의존할 것으로 예상된다. 인포메이션의 보도대로라면 수십억달러 분량은 구글 TPU에 할당할 것이라는 추산이다.
여기에 제미나이3가 AI모델로 성공할 경우 구글 클라우드에서 제미나이를 사용하려는 기업 고객 수요로 구글 클라우드의 사용량과 백로그가 대폭 증가할 수도 있을 전망이다.
시장의 반응도 뜨겁다.
구글의 제미나이3와 TPU칩이 부각되면서 엔비디아 주가는 25일(현지시간) 미국증시 개장전 거래에서 최대 2.7% 하락했다. 구글의 모회사 알파벳은 전 날 6.3% 상승하며 주당 318달러를 넘어선데 이어 이 날 개장전 프리마켓에서도 3.2% 올랐다. 텐서칩 개발에 참여하는 브로드컴 주가는 전 날 11% 급등한데 이어 이 날도 프리마켓에서 2% 상승했다.
아시아 시장에서도 알파벳 관련 주식들이 급등했다. 한국 시장에서 알파벳에 멀티레이어 PCB / MLB(서버·AI용 고밀도 기판)를 공급하는 것으로 알려진 이수 페타시스가 11.75% 급등했다. 대만에서는 미디어텍 주가가 5% 올랐다.
구글 클라우드 문서에 따르면, TPU는 고대역메모리(HBM)도 사용한다. 최근 모델인 TPU7세대 ‘아이언우드’의 경우 192GB의 HBM3e 메모리를 갖고 있다. 따라서 현재 HBM의 최대 수요처인 엔비디아 외에도 삼성전자나 SK하이닉스가 생산하는 HBM의 주요 수요처가 될 수 있다.
블룸버그는 그러나 텐서 칩이 장기적으로 경쟁력 있는 옵션이 되는 데 필요한 전력 효율성과 컴퓨팅 성능을 입증할 수 있을지 여부가 관건이라고 지적했다.
그래픽처리장치(GPU)와 텐서처리장치(TPU)의 가장 큰 차이점은 GPU는 범용성,TPU는 특수성으로 꼽힌다.
엔비디아와 AMD가 공급하는 GPU는 주로 비디오 게임 및 시각 효과 애플리케이션에서 그래픽 렌더링 속도를 높이기 위해 개발됐다. 대량의 데이터와 연산을 처리할 수 있어 AI모델 학습에 적합한 것으로 밝혀졌다.
반면 텐서처리장치(TPU)는 구글이 개발했으며 대량의 데이터와 딥러닝을 위한 행렬 연산을 처리해 AI모델 학습에 최적화된 좀 더 특수화된 주문형칩(ASIC)이다.
구조적으로 GPU는 수천개의 코어를 통한 병렬처리(SIMD)가 특징이며 TPU는 데이터가 흐르며 연산되는 시스톨릭 어레이가 차이점으로 꼽힌다.
GPU는 호완성이 좋고 구하기 쉬우며 엔비디아가 구축한 CUDA 등 커뮤니티도 방대하다. TPU는 특정 대규모연산에서 압도적 속도를 자랑한다.
김정아 객원기자 kja@hankyung.com
관련뉴스
