인공지능(AI) 투자 열풍을 이끄는 '쌍두마차'인 오픈AI와 엔비디아 간 동맹에 균열 조짐이 나타나고 있다. 엔비디아가 1000억달러(약 144조원) 규모의 오픈AI 투자에 신중한 태도를 보인 데 이어 오픈AI가 엔비디아 AI칩의 대안을 모색하고 나서면서다.
○"엔비디아 칩 코딩에 부적합"
로이터통신은 2일(현지시간) 오픈AI가 일부 엔비디아 AI칩에 불만을 품고 대안 마련에 나섰다고 보도했다. 그간 AI 모델 개발을 위한 '학습' 단계에 AI칩을 집중 투입해온 오픈AI는 지난해부터 추론용 AI칩 비중을 늘리고 있다. 챗GPT, 코딩용 도구인 코덱스 등의 사용자 및 질의량이 폭증하면서다.엔비디아 첨단 그래픽처리장치(GPU)는 학습과 추론에 모두 뛰어나다는 평가를 받는다. 학습용 AI칩 시장에서는 엔비디아 최신 GPU인 블랙웰을 대체할 상품이 없다고 해도 과언이 아니다. 다만 추론용 AI칩 시장에서는 높은 전력 대비 성능을 내세우는 여러 주문형 반도체(ASIC)가 대안으로 등장하고 있다. 막대한 현금 소진율을 기록하고 있는 오픈AI로서는 가격과 유지비가 저렴한 추론용 AI칩이 등장한다면 마다할 이유가 없다. 오픈AI가 지난 9월 브로드컴과 협력해 자체 AI칩을 생산하겠다고 발표한 것도 이런 맥락에서다.
엔비디아 AI칩이 코딩 등 특수 목적에 부합하지 않는다는 점도 오픈AI가 AI칩 공급처를 확대하려는 이유 중 하나다. 오픈AI 측은 소프트웨어 개발 또는 AI-소프트웨어 통신 작업 시 엔비디아 GPU의 느린 속도에 불만을 갖는 것으로 알려졌다. AI 코딩은 실시간으로 데이터를 가져와야하는 작업이다. 개발자가 코드를 쓸 때마다 AI가 얼마나 빠르게 자동 완성을 도와주느냐가 생산성에 영향을 미친다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난달 30일 "오픈AI의 코딩 모델을 사용하는 고객들은 코딩 작업의 속도에 대해 큰 프리미엄을 부여할 것"이라며 속도의 중요성을 강조했다.
엔비디아 AI칩은 이런 실시간 통신과 거리가 멀다. GPU와 고대역폭메모리(HBM)를 연결해 대량의 데이터를 한꺼번에 처리하는 데는 유리하지만, 데이터가 GPU와 HBM을 수천 번 오가는 과정에서 병목 현상이 발생하기 때문이다.
이에 오픈AI는 데이터 전송 속도에 강점이 있는 세레브라스와 그록(Groq) 등을 대안으로 검토하고 있다. 지난 14일 오픈AI와 100억달러(약 14조원) 규모 공급 계약을 체결한 세레브라스는 웨이퍼 하나를 초대형 AI칩으로 만든다. 일반 칩 수백 개 분량의 메모리가 하나의 칩에 들어가는 만큼 병목 현상에서 자유롭다. 오픈AI는 자사 GPT 모델을 시험해본 결과 세레브라스 시스템이 기존 하드웨어보다 최대 15배 빨랐다고 설명했다.
그록 LPU는 HBM 대신 SRAM을 칩 내부에 탑재해 엔비디아 H100 대비 10배 이상 빠른 메모리 전송 속도를 자랑한다. 다만 오픈AI와 그록의 협상은 엔비디아가 작년 말 그록을 인수하면서 없던 일이 됐다.
○올트먼 직접 진화 나서
이런 오픈AI의 움직임은 엔비디아의 투자 지연과 맞물려 '불협화음'으로 해석되고 있다. 지난해 9월 양사가 체결한 1000억달러 투자 계약은 당초 수주 내에 이뤄질 것이라는 관측과 달리 수개월간 지지부진한 협상이 이어지고 있다. 급기야 지난달 31일 젠슨 황 엔비디아 CEO는 "확약은 없었다"며 한발 물러서는 모습도 보였다. 황 CEO는 "오픈AI가 우리에게 최대 1000억달러까지 투자하도록 초대해줘서 매우 기쁘고 영광스럽지만 투자는 단계적으로 진행될 것"이라고 설명했다.
오픈AI 내부적으로도 제품 로드맵이 수시로 바뀌면서 혼란을 겪고 있다. 지난해까지 소비자용 챗봇에 집중하던 오픈AI는 코덱스 등 코딩 도구, 신약 개발·과학 연구 등 기업용 소프트웨어로 제품군을 넓히고 있다. 한 소식통은 로이터에 "제품군이 바뀌면서 필요한 컴퓨팅 자원 종류도 달라졌고 이로 인해 엔비디아와의 협상이 난항을 겪고 있다"고 전했다.
불협화음에 대한 우려가 커지자 양사는 즉각 해명에 나섰다. 엔비디아는 "고객들이 추론을 위해 엔비디아를 선택하는 이유는 대규모 환경에서 최고의 성능과 총소유비용을 제공하기 때문"이라고 밝혔다. 오픈AI 역시 "엔비디아가 추론 분야에서 가격 대비 최고의 성능을 제공한다"고 화답했다. 올트먼 CEO는 "우리는 앞으로도 아주 오랫동안 (엔비디아의) 거대 고객이 되기를 바란다"며 "이 모든 광기(불화설)가 어디서 시작됐는지 모르겠다"고 토로했다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
관련뉴스
