팔란티어의 저주가 현실로?…위협받는 앤트로픽 [박신영의 개장전 요것만]

1. 기업들, 비싼 최고급 AI 대신 저가 모델 선택

기업들이 가장 성능이 뛰어나지만 가격이 비싼 인공지능(AI) 모델 대신 저렴한 대안을 선택하고 있습니다. AI 모델의 전반적인 성능이 높아지면서 모든 업무에 최고급 모델을 사용할 필요가 없다고 판단하기 시작한 것입니다.

24일 파이낸셜타임스는 결제업체 램프의 데이터를 활용해 이처럼 보도했습니다. 램프가 미국 기업 7만 곳의 지출 데이터를 분석한 결과, 앤트로픽의 가장 크고 비싼 모델인 ‘페이블 5’에 대한 지출은 출시된 지 두 달이 넘었지만 앤트로픽 제품 전체 지출의 약 11%에 머물렀습니다. 최근에는 이 비중의 증가세도 뚜렷하게 둔화한 것으로 나타났습니다.

기업들은 문서 요약과 번역, 이메일 작성 등 간단한 업무에는 저가형 모델을 사용하고, 복잡한 코딩이나 추론이 필요한 경우에만 고성능 모델을 선택하고 있습니다. 업무의 난이도에 따라 AI 모델을 나눠 사용하는 방식이 비용 측면에서 유리하기 때문입니다.

예상보다 많은 AI 비용이 발생하면서 기업의 사업 결정도 달라지고 있습니다. 조사 대상 기업의 62%는 지난 1년 동안 예상하지 못한 AI 비용 때문에 중요한 사업 결정을 변경했다고 답했습니다.

이 가운데 40%는 비용 문제를 이사회 차원에서 논의했으며, 33%는 긴급 지출 동결에 나섰습니다. 25%는 추진하던 AI 사업을 연기하거나 취소한 것으로 조사됐습니다.

중국산 AI 모델의 사용량도 빠르게 증가하고 있습니다. 지난 1월 미국 기업의 전체 AI 토큰 사용량에서 중국 모델이 차지하는 비중은 4.4%에 불과했지만, 최근에는 60%를 넘어선 것으로 전해졌습니다.

토큰은 AI가 문장과 정보를 처리하는 기본 단위입니다. 기업이 AI에 더 많은 문서와 질문을 입력하고 더 많은 답변을 받을수록 토큰 사용량과 비용도 함께 증가합니다.

중국산 AI 모델은 미국 최고급 모델과의 성능 격차를 빠르게 좁히면서도 가격은 상대적으로 저렴합니다. 기업들이 비용을 절감하기 위해 중국 모델을 선택하는 사례가 증가하는 이유입니다.

작업에 따라 가장 적합한 모델을 자동으로 선택하는 ‘모델 라우터’의 도입도 늘고 있습니다. 모델 라우터는 간단한 업무에는 저렴한 모델을 배정하고, 복잡한 업무에만 고성능 모델을 연결하는 시스템입니다.

지난 7월 기준 AI에 돈을 지출하는 기업 가운데 모델 제공·추론 플랫폼을 이용한 비중은 6.1%에 그쳤습니다. 그러나 모델 라우터 도입이 본격화하면 오픈AI와 앤트로픽 등 고가 모델 업체의 가격 결정력은 더욱 약해질 수 있습니다.

AI 모델은 크게 폐쇄형과 오픈웨이트로 나눌 수 있습니다.

오픈AI와 앤트로픽의 모델은 대표적인 폐쇄형 AI입니다. 개발사가 모델의 내부 설계와 학습 결과물을 공개하지 않기 때문에 이용자가 모델을 내려받아 자유롭게 수정하거나 자체 서버에서 운영하기 어렵습니다.

반면 딥시크와 키미, 엔비디아의 네모트론 등은 오픈웨이트 모델입니다. AI가 학습을 통해 만들어낸 핵심 수치 정보인 ‘가중치’를 공개하기 때문에 기업이 모델을 내려받아 자체 서버에서 운영하고 업무 목적에 맞게 조정할 수 있습니다.

폐쇄형 AI가 완성된 음식을 식당에서 주문해 먹는 방식이라면, 오픈웨이트 AI는 기본 조리법과 재료를 받아 자체 주방에서 원하는 방식으로 요리하는 것과 비슷합니다.

오픈웨이트 모델은 외부 AI 업체에 사용료를 계속 지급하지 않고 자체 컴퓨팅 시설에서 운영할 수 있습니다. 기업 내부의 민감한 자료를 외부 서버로 보내지 않아도 된다는 장점도 있습니다.

이처럼 저렴하고 자유롭게 수정할 수 있는 오픈웨이트 AI의 영향력이 커지자 엔비디아도 본격적인 대응에 나섰습니다.

월스트리트저널에 따르면 엔비디아는 AI 스타트업 풀사이드의 기술을 사용하는 대가로 60억달러를 지급하고 엔지니어 대부분을 영입할 계획입니다. 이와 별도로 풀사이드의 투자 전 기업가치를 120억달러로 평가해 10억달러를 지분 투자할 예정입니다.

기술 사용 계약과 지분 투자를 합하면 엔비디아가 풀사이드에 투입하는 금액은 총 70억달러에 달합니다.

엔지니어를 포함한 풀사이드 직원 100여 명은 엔비디아에 합류해 오픈웨이트 AI 모델인 ‘네모트론’ 개발에 참여할 예정입니다. 엔비디아는 풀사이드의 기술과 인력을 활용해 앞으로 1년 안에 미국과 중국의 최고 수준 AI 모델에 맞설 수 있는 네모트론을 개발한다는 목표입니다.

젠슨 황 엔비디아 최고경영자(CEO)는 미국이 AI 경쟁에서 승리하려면 특정 기업의 AI 모델 하나에 의존해서는 안 된다고 강조해 왔습니다. 하나의 최고 성능 모델보다 다양한 산업과 기업이 이용할 수 있는 강력한 오픈웨이트 생태계가 중요하다는 주장입니다.

엔비디아는 지난 3월 미스트랄과 싱킹머신스랩, 퍼플렉시티 등이 참여하는 ‘네모트론 연합’을 출범시켰습니다. 참여 기업들은 데이터와 기술, AI 개발에 필요한 컴퓨팅 자원을 공유할 계획입니다.

엔비디아가 네모트론을 강화하면 주요 GPU 고객인 오픈AI와 앤트로픽과 AI 모델 시장에서 직접 경쟁하게 됩니다. 반대로 오픈AI와 앤트로픽도 엔비디아 GPU 의존도를 낮추기 위해 자체 AI 반도체를 개발하고 있습니다.

2. 오픈웨이트 AI 토큰 비중, 두 달 만에 28%에서 62%로 급증

오픈웨이트 AI 모델의 사용량이 빠르게 늘면서 오픈AI와 앤트로픽 등 폐쇄형 AI 모델의 점유율을 가져오고 있다는 분석이 나왔습니다.

미국 기술투자자 개빈 베이커는 클라우드·소프트웨어 기업 버셀의 데이터를 인용해, 버셀 플랫폼에서 처리된 전체 AI 토큰 가운데 오픈웨이트 모델이 차지하는 비중이 최근 두 달 동안 28%에서 62%로 상승했다고 밝혔습니다.

오픈웨이트 모델이 처리한 전체 토큰 가운데 중국 모델이 차지하는 비중은 절반가량으로 추정됐습니다. 중국 기업들이 개발한 저렴한 모델이 미국 시장에서도 빠르게 확산하고 있다는 의미입니다.

다만 오픈웨이트 AI를 이용한다고 해서 AI 운영비용까지 사라지는 것은 아닙니다. 기업은 모델 이용료를 줄일 수 있지만, AI가 질문을 처리하고 답변을 생성하려면 GPU와 서버, 데이터센터, 전력 등 컴퓨팅 자원이 필요합니다.

오픈웨이트 모델이 토큰 하나를 생성할 때도 오픈AI나 앤트로픽의 폐쇄형 모델처럼 상당한 연산 자원을 사용합니다.

따라서 오픈웨이트 모델의 확산은 AI 모델 업체의 이익률에는 부담이 될 수 있지만, 전체 토큰 사용량을 늘린다는 점에서 엔비디아 GPU와 데이터센터 등 AI 인프라 수요에는 긍정적이라는 분석입니다.

베이커는 앞으로 폐쇄형 최첨단 AI 모델이 전체 AI 산업에서 창출되는 경제적 가치의 60∼90%를 차지할 것으로 전망했습니다. 가장 어렵고 중요한 업무에는 오픈AI와 앤트로픽 등 성능이 뛰어난 최첨단 모델이 계속 사용될 가능성이 크기 때문입니다.

반면 실제 토큰 사용량에서 폐쇄형 최첨단 모델이 차지하는 비중은 15∼25%에 그칠 것으로 내다봤습니다. 쉽고 반복적인 업무에는 가격이 저렴하고 자체 운영이 가능한 오픈웨이트 모델이 대규모로 사용될 수 있다는 설명입니다.

결국 경제적 가치가 큰 고난도 업무는 폐쇄형 최첨단 모델이 담당하고, 실제 사용량이 많은 반복 업무는 오픈웨이트 모델이 맡는 방향으로 시장이 나뉠 가능성이 있습니다.

3. 팔란티어 주가 급등 이끈 AIP…오픈웨이트가 성장판 넓힌다

팔란티어가 올해 대표적인 AI 모멘텀 종목으로 떠올랐습니다. 주가는 최근 저점이었던 6월 25일 이후 65% 넘게 상승했으며, 지난 21일에도 약 3.5% 올라 180달러를 넘어섰습니다.

주가를 끌어올린 핵심 동력은 인공지능 플랫폼인 AIP의 빠른 성장입니다. 특히 오픈웨이트 모델이 확산될수록 기업의 자체 AI 도입이 쉬워지고, 이를 실제 업무에 연결하는 AIP의 역할도 더욱 커질 것으로 예상됩니다.

AIP는 ‘인공지능 플랫폼’의 약자로, 기업이나 정부기관이 AI 모델을 자체 데이터와 연결해 실제 업무에 사용할 수 있도록 지원합니다.

챗GPT처럼 질문에 답변하는 수준을 넘어 AI가 기업 내부의 재고와 생산, 고객, 물류 데이터를 분석하고 실제 의사결정과 업무 수행까지 지원하도록 만들어줍니다.

예를 들어 제조업체가 AIP에 “어느 공장의 생산량을 늘려야 하는가”라고 물으면, AIP는 주문량과 재고, 부품 공급 상황, 공장 가동률 등을 종합해 답변합니다. 필요한 경우 생산·재고 시스템과 연결해 후속 업무까지 지원할 수 있습니다.

AI 모델이 ‘두뇌’라면 AIP는 이 두뇌를 기업의 데이터 및 업무 시스템과 연결해 실제로 일하게 만드는 ‘운영체계’라고 볼 수 있습니다.

팔란티어는 과거 미국 정부와 국방기관에 데이터 분석 소프트웨어를 공급하는 회사로 알려졌습니다. 최근에는 AIP를 앞세워 일반 기업으로 사업 영역을 빠르게 확대하고 있습니다.

특히 ‘AIP 부트캠프’를 통해 고객사가 단 며칠 안에 자체 데이터를 활용한 AI 서비스를 만들어 시험하도록 지원하고 있습니다. 시범사업을 통해 업무 효율 개선을 확인한 기업들이 실제 계약으로 전환하면서 미국 민간 부문 매출이 급증했습니다.

오픈웨이트 모델의 확산은 AIP의 시장을 더욱 넓힐 수 있습니다. 기업이 오픈웨이트 모델을 이용하면 민감한 내부 데이터를 외부 AI 업체로 보내지 않고 자체 서버나 클라우드에서 운영할 수 있기 때문입니다.

그러나 모델을 내려받는 것만으로는 실제 업무에 바로 사용할 수 없습니다. 모델을 기업 데이터와 연결하고, 직원별 접근 권한을 설정하며, AI가 내놓은 답변을 생산·재고·물류 시스템과 연결해야 합니다. 이 과정을 담당하는 것이 팔란티어 AIP입니다.

팔란티어 AIP는 오픈웨이트 모델뿐 아니라 외부 AI 업체가 제공하는 폐쇄형 모델도 기업의 데이터 및 업무와 연결할 수 있습니다.

따라서 오픈웨이트가 AIP의 필수조건은 아니지만, AI 도입 비용을 낮추고 기업의 선택지를 늘려 AIP 시장을 확대하는 성장 촉매가 될 수 있습니다.

알렉스 카프 팔란티어 CEO는 기업이 폐쇄형 AI 업체에 토큰 사용료를 계속 지급하면서도 데이터와 핵심 기술에 대한 통제권을 확보하지 못하는 구조를 강하게 비판해 왔습니다.

그는 기업이 AI 모델과 데이터, 컴퓨팅 자원에 대한 통제권을 직접 가져야 한다고 강조했습니다. 팔란티어 AIP는 기업이 민감한 데이터를 외부로 넘기지 않으면서 다양한 AI 모델을 자체 데이터와 실제 업무에 연결하도록 지원합니다.

AIP의 성장은 팔란티어의 실적에도 반영되고 있습니다. 팔란티어의 2026년 2분기 전체 매출은 19억3500만달러로 전년 동기의 약 10억달러보다 93% 증가했습니다.

특히 미국 민간 부문 매출은 7억6400만달러로 149% 급증했습니다. 미국 정부 부문 매출도 8억900만달러로 90% 증가했습니다. 국방과 국가안보 분야에서 AI 기반 소프트웨어 수요가 확대된 결과입니다.

팔란티어는 2026년 연간 매출 전망을 약 81억5000만달러로 높였습니다. 기존 전망보다 약 5억달러 상향한 것입니다.

미국 민간 부문의 연간 매출 전망도 34억2400만달러 이상으로 올렸습니다. 이는 전년보다 최소 134% 증가한 수준입니다.

다만 주가가 단기간에 급등하면서 밸류에이션 부담도 커지고 있습니다. 지난 21일 정오 기준 팔란티어의 14일 상대강도지수(RSI)는 69.5를 기록해 통상적인 과매수 기준인 70에 근접했습니다.

RSI가 70에 가깝다고 해서 주가가 곧바로 하락한다는 뜻은 아닙니다. 다만 AIP의 성장과 실적 개선에 대한 상당한 기대가 현재 주가에 이미 반영됐다는 점은 유의할 필요가 있습니다.

4. 엔비디아, 퍼플렉시티 투자 논의…에이전트 AI 수요 선점

엔비디아가 인공지능 검색 스타트업 퍼플렉시티에 투자하는 방안을 논의하고 있는 것으로 전해졌습니다. 이번 투자에서 퍼플렉시티의 기업가치는 300억달러 이상으로 평가될 전망입니다.

이번 투자는 단순히 인기 있는 AI 검색엔진의 지분을 확보하기 위한 것이 아닙니다. 엔비디아가 에이전트형 AI 확산으로 발생할 장기적인 컴퓨팅 수요를 선점하고, CUDA를 중심으로 한 소프트웨어 생태계의 영향력을 최종 애플리케이션까지 확대하려는 전략으로 분석됩니다.

정보기술 전문매체 디인포메이션에 따르면 엔비디아는 퍼플렉시티가 추진하는 신규 지분 투자에 참여하는 방안을 협의하고 있습니다.

퍼플렉시티의 기업가치는 300억달러 이상으로 평가될 것으로 전해졌습니다. 약 1년 전 투자 유치 당시 인정받은 200억달러보다 50% 이상 높은 수준입니다.

퍼플렉시티의 연환산 매출은 올해 초 2억5000만달러 미만에서 최근 7억5000만달러 이상으로 증가한 것으로 전해졌습니다.

연환산 매출은 최근 월간 또는 분기 매출이 앞으로 1년 동안 같은 속도로 이어진다고 가정해 계산한 수치입니다. 지난 1년 동안 실제로 벌어들인 확정 매출과는 차이가 있습니다.

퍼플렉시티의 성장은 클라우드 기반 AI 에이전트인 ‘퍼플렉시티 컴퓨터’가 상당 부분 견인한 것으로 알려졌습니다. 이 서비스는 전문가들이 컴퓨터로 수행하는 반복적이고 복잡한 업무를 자동화하도록 지원합니다.

퍼플렉시티는 단순히 사용자의 질문에 답하는 AI 검색엔진을 넘어 에이전트형 AI를 개발하고 있습니다.

에이전트형 AI는 사용자를 대신해 인터넷을 검색하고 여러 출처의 정보를 분석합니다. 이후 필요한 작업을 계획하고 검색과 분석, 추론, 재검색 등을 반복해 여러 단계의 업무를 수행합니다.

일반적인 챗봇이 한 번의 질문에 한 번 답변하는 방식이라면, 에이전트형 AI는 하나의 업무를 끝내기 위해 AI 모델을 여러 차례 호출합니다. 이에 따라 에이전트형 AI 검색 한 번에는 일반적인 챗봇 질문보다 최대 20배 많은 컴퓨팅 자원이 사용될 수 있다는 분석도 나옵니다.

엔비디아에는 AI 모델을 훈련할 때뿐 아니라 완성된 모델을 실제로 사용하는 추론 단계의 수요가 중요합니다.

대규모 AI 모델을 훈련할 때는 막대한 GPU가 필요하지만, 모델 훈련은 매일 이뤄지는 작업이 아닙니다. 반면 추론은 이용자가 AI를 사용할 때마다 발생하기 때문에 서비스가 성장할수록 GPU가 지속적으로 가동됩니다.

특히 에이전트형 AI는 하나의 요청을 처리하기 위해 여러 차례 추론을 반복합니다. 엔비디아가 퍼플렉시티를 지원하면 자사의 GPU를 하루 24시간 지속적으로 사용하는 대규모 AI 서비스를 확보하는 효과를 얻을 수 있습니다.

쿠다(CUDA) 중심의 소프트웨어 생태계도 강화할 수 있습니다.

쿠다는 개발자가 엔비디아 GPU에 AI 연산을 지시할 수 있도록 지원하는 소프트웨어 플랫폼입니다. 기업이 CUDA를 중심으로 전체 시스템을 구축하면 다른 업체의 AI 반도체로 이전하는 데 상당한 비용과 시간이 필요합니다.

퍼플렉시티가 CUDA와 엔비디아 GPU에 최적화된 추론 엔진을 계속 이용하면 엔비디아는 에이전트 AI 시장에서도 소프트웨어 록인 효과를 강화할 수 있습니다.

엔비디아의 투자금이 다시 GPU 매출로 돌아오는 선순환 구조도 만들어집니다.

엔비디아가 퍼플렉시티에 투자하면 퍼플렉시티는 서비스 확대를 위해 클라우드업체로부터 GPU 컴퓨팅 용량을 빌립니다. 클라우드업체는 늘어난 수요에 대응하기 위해 엔비디아 GPU를 추가로 구매합니다.

퍼플렉시티는 올해 초 마이크로소프트의 애저 클라우드를 이용하기 위해 7억5000만달러 규모의 계약을 체결한 것으로 전해졌습니다. 퍼플렉시티의 사용자가 늘어나면 애저가 확보해야 하는 GPU 용량도 증가할 수 있습니다.

아라빈드 스리니바스 퍼플렉시티 CEO는 지난 6월 CNBC 인터뷰에서 2028년 기업공개를 추진할 계획이라고 밝혔습니다. 주요 투자자로는 엔비디아와 아마존 창업자 제프 베이조스, 일본 소프트뱅크그룹 등이 있습니다.

5. 메모리 가격 급등…엔비디아 AI 서버 가격 15% 이상 인상

엔비디아 AI 반도체가 탑재되는 서버 가격이 상당수 제품에서 15% 이상 오를 전망입니다.

이번 가격 인상은 내년 초 출하되는 시스템부터 적용될 예정입니다. 엔비디아의 차세대 주력 제품인 베라 루빈과 그레이스 블랙웰 칩이 탑재된 서버도 인상 대상에 포함됩니다.

구체적인 인상 폭은 엔비디아 AI 칩의 세대와 서버에 탑재되는 메모리의 종류 및 용량 등에 따라 달라질 것으로 전해졌습니다.

마이크로소프트와 구글, 오라클 등 대형 데이터센터 운영업체의 주문을 받아 서버를 생산하는 업체들은 최근 고객사에 가격 인상 계획을 통보했습니다.

서버는 데이터센터에서 수많은 이용자의 요청과 계산을 동시에 처리하도록 설계된 고성능 컴퓨터입니다. AI 서버는 챗GPT 같은 AI 모델을 학습시키거나 이용자의 질문을 처리하기 위해 일반 서버보다 강력한 GPU와 대용량 메모리, 고속 네트워크 장비를 탑재합니다.

AI 서버에는 연산을 담당하는 GPU와 GPU에 데이터를 빠르게 공급하는 고대역폭메모리(HBM), 서버 전체 작업을 관리하는 중앙처리장치(CPU)가 들어갑니다.

엔비디아는 AI 서버의 핵심인 GPU와 네트워크 반도체, 전체 시스템 설계를 공급합니다. 엔비디아가 설계한 GPU는 TSMC가 위탁생산하고, HBM은 삼성전자와 SK하이닉스, 마이크론이 공급합니다.

델과 HPE, 슈퍼마이크로를 비롯한 서버업체와 폭스콘·콴타·위스트론 등 위탁생산업체는 GPU와 메모리, 메인보드, 네트워크 장비, 전원·냉각장치를 조립해 완제품 서버를 만듭니다.

최근에는 개별 서버 한 대보다 여러 서버와 GPU, 네트워크, 전원·냉각장치를 하나로 묶은 ‘랙’ 단위로 공급되는 경우가 늘고 있습니다. 이번 가격 인상은 이 같은 완제품 시스템에 적용되는 것입니다.

가격 인상의 주요 원인은 메모리 공급 부족입니다. 삼성전자와 SK하이닉스, 마이크론이 D램과 HBM 생산을 확대하고 있지만 폭발적으로 증가하는 AI 수요를 따라잡지 못하고 있습니다.

메모리 가격이 급등하면서 높은 수익성을 확보한 엔비디아와 서버 제조업체들도 추가 비용을 모두 흡수하지 못하고 고객에게 전가하기 시작한 것입니다.

이번 가격 인상은 엔비디아의 강한 가격 결정력을 보여주는 사례이기도 합니다. TSMC가 엔비디아 AI 반도체 생산을 확대하고 있지만 수요를 모두 충족하지 못하고 있으며, 엔비디아 제품을 대체할 만한 AI 반도체도 충분하지 않기 때문입니다.

엔비디아의 매출총이익률은 약 75%에 달합니다. 이는 매출 100달러 가운데 제품 생산비를 제외하고 약 75달러가 남는다는 의미입니다. 그럼에도 원가 상승분을 고객에게 전가할 수 있다는 것은 시장 지배력이 그만큼 강하다는 뜻입니다.

아마존과 마이크로소프트, 구글, 메타는 엔비디아 의존도를 낮추기 위해 자체 AI 반도체를 개발하고 있습니다.

그러나 자체 칩을 설계하더라도 칩에 필요한 HBM과 첨단 패키징 생산능력까지 함께 확보해야 합니다. 메모리와 패키징 공급이 부족하기 때문에 자체 AI 반도체 생산을 단기간에 크게 늘리기는 어렵습니다.

AI 서버 가격 상승은 빅테크의 대규모 데이터센터 건설 계획에도 부담을 줄 전망입니다.

AI 데이터센터 사업은 이미 공사 지연과 인력 부족, 자금조달 여건 악화, 지역사회의 반대 등으로 어려움을 겪고 있습니다. 여기에 AI 서버 가격까지 15% 이상 오르면 데이터센터 구축에 필요한 전체 비용이 더욱 커질 수 있습니다.

6. HBM 시장, 2028년 1960억달러 전망…가격 상승이 성장 주도

고대역폭메모리(HBM) 시장이 2028년까지 약 5배로 성장할 것이라는 전망이 나왔습니다. 다만 시장 확대는 실제 출하량 증가보다 HBM4로의 세대 전환에 따른 가격 상승이 주도할 것으로 분석됐습니다.

HSBC는 세계 HBM 시장 규모가 2025년 400억달러에서 2028년 1960억달러로 늘어날 것으로 전망했습니다. 연평균 성장률은 70%에 달합니다.

반면 같은 기간 실제 출하되는 HBM의 전체 용량을 뜻하는 ‘비트 수요’는 연평균 37% 증가하는 데 그칠 것으로 예상됐습니다. 매출 증가율이 물량 증가율의 두 배에 가까운 셈입니다.

이는 HBM 시장의 성장이 단순한 출하량 증가보다 제품 가격 상승에 크게 의존한다는 의미입니다. 고객들이 기존 HBM3E에서 신형 HBM4로 전환하면서 같은 메모리 용량에도 더 높은 가격을 지급하고 있기 때문입니다.

HBM4는 같은 용량을 저장하더라도 HBM3E보다 데이터를 훨씬 빠르게 주고받을 수 있습니다. AI GPU가 계산에 필요한 데이터를 기다리는 시간을 줄여 GPU를 더욱 효율적으로 가동할 수 있도록 해줍니다.

HBM4는 2026년 스택당 약 500∼600달러 이상에 판매될 것으로 전망됐습니다. 스택당 약 300달러인 HBM3보다 55∼70% 높은 가격입니다.

HBM4는 데이터가 이동하는 통로가 HBM3E보다 많고 대역폭도 크게 향상됩니다. 메모리 아래에는 데이터 이동과 신호 처리를 담당하는 로직 다이도 추가됩니다. 설계와 생산, 패키징 과정이 복잡해지면서 제조원가와 판매가격이 함께 높아지는 구조입니다.

다만 성능 향상과 제조원가 상승만으로 55∼70%에 달하는 가격 차이를 모두 설명하기는 어렵다는 분석도 나옵니다. 공급 부족으로 강화된 메모리업체의 가격 결정력도 HBM4 가격에 반영됐다는 의미입니다.

HBM은 여러 개의 D램을 수직으로 쌓는 복잡한 생산 공정 때문에 이미 같은 용량의 DDR5보다 5∼6배 비싸게 판매되고 있습니다. HBM4에는 로직 다이와 더욱 복잡한 첨단 패키징이 추가되기 때문에 가격 프리미엄이 더욱 커질 전망입니다.

전체 D램 비트 수요에서 HBM이 차지하는 비중은 2025년 4%에서 2028년 약 10%로 높아질 것으로 예상됐습니다. 실제 메모리 용량 기준 비중은 약 2.5배로 확대되지만 HBM 매출은 같은 기간 약 5배로 증가하는 것입니다.

HBM 업체의 가격 결정력은 당분간 이어질 가능성이 큽니다. 삼성전자와 SK하이닉스, 마이크론이 대규모 증설을 추진하고 있지만 새로운 생산시설에서 실제 제품이 나오기까지 수년이 걸리기 때문입니다.

SK하이닉스는 용인과 청주에 신규 생산시설을 건설하고 있습니다. 그러나 공장 건설과 장비 설치, 시험 생산, 수율 안정화까지 고려하면 신규 공장이 공급을 본격적으로 늘리는 시점은 2029년이나 2030년이 될 수 있습니다.

삼성전자는 평택 생산시설을 확대하고 있으며 마이크론도 미국 아이다호에 신규 공장을 건설하고 있습니다. 이들 시설 역시 본격적인 생산까지 상당한 시간이 필요합니다.

기존 생산라인의 전환과 증설에 따른 물량은 2027년부터 늘어날 전망입니다. 하지만 HBM 수요가 생산능력보다 빠르게 증가하면서 2027년의 공급 상황이 2026년보다 오히려 더 빠듯해질 수 있다는 관측도 나옵니다.

첨단 패키징도 또 다른 공급 병목입니다.

HBM은 메모리 칩만 생산한다고 AI 서버에 바로 사용할 수 있는 제품이 아닙니다. TSMC의 CoWoS와 같은 첨단 패키징 공정을 통해 엔비디아 GPU 등 연산용 반도체와 결합해야 완성된 AI 가속기가 됩니다.

그러나 TSMC의 CoWoS 생산능력은 2026년까지 사실상 예약이 모두 찬 상태인 것으로 전해졌습니다. 엔비디아가 세계 CoWoS 생산능력의 약 60%를 확보하고 있다는 추정도 나옵니다.

삼성전자와 SK하이닉스, 마이크론이 계획대로 HBM 생산량을 늘리더라도 최종 AI 가속기 공급은 같은 속도로 증가하지 못할 수 있습니다. HBM을 충분히 생산해도 GPU와 결합할 패키징 생산라인이 부족하면 완제품 출하가 지연되기 때문입니다.

업계에서는 HBM 생산능력과 첨단 패키징 생산능력 사이의 불균형이 빨라도 2028년은 돼야 의미 있게 완화될 것으로 보고 있습니다.

결국 HBM 시장은 출하량 증가와 함께 HBM4로의 세대 전환 및 높은 가격 프리미엄에 힘입어 빠르게 성장할 전망입니다. 신규 메모리 공장과 첨단 패키징 시설이 본격적으로 가동되기까지 시간이 필요한 만큼 공급 부족과 높은 가격도 당분간 이어질 가능성이 있습니다.
뉴욕=박신영 특파원 nyusos@hankyung.com