삼성에 큰 기회 온다…AI '황금 캐는 곡괭이'에 사활

매년 12월이 되면 엔비디아, 브로드컴 등 인공지능(AI) 반도체 기업 고위 임원은 대만 신주공업단지에 있는 TSMC 본사로 집결한다. 그래픽처리장치(GPU), 고대역폭메모리(HBM) 등을 한데 묶어 AI 가속기를 만드는 TSMC의 ‘최첨단 패키징’ 생산라인을 하나라도 더 배정받기 위해서다. ‘CoWoS’(칩온웨이퍼온서브스트레이트)로 불리는 이 라인을 얼마나 확보하느냐에 따라 이듬해 AI 가속기 생산량이 결정되기 때문이다. 구글이 올해 자체 개발한 AI 가속기인 텐서처리장치(TPU) 생산량을 당초 목표(400만 개)보다 100만 개 낮춰 잡은 것도 CoWoS 확보전에서 엔비디아에 밀렸기 때문이다.

GPU, HBM 등 고성능 반도체를 ‘실리콘 인터포저’라는 특수 소재 위에 올려 마치 하나의 칩처럼 매끄럽게 작동하게 하는 ‘최첨단 패키징’이 올해 AI 반도체 시장의 패권을 가를 승부처로 떠올랐다. 회로 폭을 1나노미터(㎚·1㎚=10억분의 1m)대로 좁혀 작은 칩 하나에 여러 기능을 담는 초미세 공정이 기술적 한계에 다다르자, 반도체 기업이 여러 칩을 연결해 단일 칩처럼 구동하게 해주는 최첨단 패키징으로 눈을 돌리고 있어서다.

이에 따라 지난해 430억달러(약 62조원)였던 관련 시장은 2028년 643억달러(약 93조원)로 커질 것으로 전망된다. 현재 최첨단 패키징 시장은 TSMC 독주체제다. GPU와 HBM을 확보해도 TSMC의 CoWoS 라인을 충분히 배정받지 못해 AI 가속기를 제때 생산하지 못하는 상황이 반복될 정도다. TSMC는 엔비디아, AMD, 브로드컴 등의 거듭된 요구에 올해 75억달러(약 10조8500억원)를 들여 최첨단 패키징 생산능력을 대폭 키우기로 했다. 역대 최대 규모다.

삼성전자도 최첨단 패키징을 HBM의 뒤를 잇는 승부처로 보고 관련 사업을 강화하고 있다. 엔비디아에 밀려 CoWoS 라인을 충분하게 확보하지 못한 구글, AMD, 아마존 등을 대상으로 최첨단 패키징을 D램 및 파운드리와 묶어 ‘턴키’로 제공하는 마케팅을 하는 것으로 알려졌다.

TSMC發 '패키징 병목' 심화…삼성, 빅테크 AI칩 물량 접수 나섰다
AI가속기 핵심 초고난도 기술…삼성, 빅테크 고객 확보 총력전

인공지능(AI) 시대를 맞아 ‘황금 캐는 곡괭이’로 불리는 AI 가속기가 나오려면 최첨단 패키징(여러 칩을 하나의 반도체처럼 작동하게 하는 공정)을 두 차례 거쳐야 한다. D램을 최대 16개 쌓는 고대역폭메모리(HBM) 제작이 첫 번째다. 일반 D램 생산보다 훨씬 어려운 이 공정을 통과하면 더 큰 난관이 등장한다. HBM과 그래픽처리장치(GPU)를 실리콘 인터포저라는 특수 소재 기판 위에서 연결해 하나의 칩처럼 작동하게 하는 ‘2.5차원(2.5D) 패키징’이다.

아무리 좋은 GPU와 HBM을 만들어도 최첨단 패키징에서 삐끗하면 AI 가속기는 제 성능을 내지 못한다. 고난도 공정이어서 업계 1위 TSMC의 수율도 50~60％에 그친다. TSMC가 엔비디아, AMD 등의 쏟아지는 주문에 대응하지 못하면서 2.5D 패키징은 AI 시장 확대를 가로막는 최대 걸림돌이 되고 있다.

◇한계 다다른 초미세 공정의 대안

패키징은 크게 전통 패키징과 최첨단 패키징으로 나뉜다. 전통 패키징은 단품 칩을 메인보드에 올린 뒤 전기적으로 연결하는 공정을 뜻한다. 반도체 생태계에서 ‘덜 중요한’ 기술로 평가받는 ‘후(後)공정’ 중 하나다.

AI 시대를 맞아 고성능 칩 수요가 폭증하자 상황이 바뀌었다. 2020년대 초반까지 반도체 기업들은 회로 폭(선폭)을 2나노미터(㎚·1㎚=10억분의 1m) 이하로 좁히고 작은 칩에 많은 기능을 넣는 ‘초미세 공정’에 올인했다. 하지만 초미세 공정 경쟁은 부메랑이 됐다. 한 대당 최대 5000억원에 이르는 극자외선(EUV) 노광 장비 등을 사야 하다 보니 수익성이 떨어진 것. 기술적인 문제도 만만치 않았다. 선폭이 좁아 간섭 현상이 심해지고, 누설 전류가 늘면서 ‘발열’을 잡기 힘들어져서다.

그 대안으로 찾은 해법이 패키징이다. 초미세 공정을 통해 하나의 칩에 복잡한 기능을 여러 개 넣는 대신 적당한 칩 여러 개를 하나로 연결하면 똑같은 성능을 낼 수 있다고 본 것이다. 업계에선 기술 난도가 전통 패키징을 압도한다는 점에서 이 기술에 ‘최첨단(advanced)’이란 수식어를 붙였다.

◇극심한 CoWoS 용량 부족

선두 주자는 TSMC다. ‘CoWoS(칩온웨이퍼온서브스트레이트)-S’라는 2.5D 최첨단 패키징이 주 무기다. 기판 위에 중간 다리 역할을 하는 특수 소재층인 실리콘 인터포저를 놓고 여러 칩을 수평으로 배치한다. 실리콘 인터포저는 하단 기판과 상단의 칩을 연결하는 수직 통로인 TSV와 칩과 칩 간 신호를 연결해주는 RDL(재배선층)로 구성된다. 2.5D 패키징으로 불리는 건 기판 위에 인터포저와 칩을 수직(3D)으로 쌓은 뒤 칩을 수평(2D)으로 배치하기 때문이다.

AI 시대를 맞아 고성능 칩 수요가 커지자 엔비디아, AMD 등이 CoWoS의 위력을 알아봤다. 그렇게 HBM과 GPU를 연결하는 B200, H100 같은 AI 가속기가 태어났다.

삼성증권에 따르면 웨이퍼로 환산한 TSMC의 CoWoS 생산능력은 2024년 월 3만5000장에서 지난해 약 7만 장으로 늘었고, 올해 약 11만 장으로 증가한다. 하지만 여전히 부족하다는 평가가 나온다. TSMC가 엔비디아에 배정한 CoWoS 비중이 55％ 안팎인 걸 감안하면 올해 생산할 수 있는 ‘블랙웰’ AI 가속기는 891만 개라는 계산이 나온다. 최대 18기가와트(GW) 용량의 데이터센터에 대응할 수 있는 물량이다. 이는 올해 글로벌 데이터센터 투자 용량의 50%에 그친다. 삼성증권은 “TSMC가 올해 엔비디아 수요도 못 맞출 가능성이 있다”고 분석했다.

◇틈새 노리는 삼성전자

삼성전자는 기회를 엿보고 있다. 국내 기업 리벨리온이 삼성전자의 2.5D 패키징 서비스인 ‘아이큐브(I-Cube)’를 활용해 최신 AI 가속기 ‘리벨 쿼드’를 개발하면서 일정 부분 실력을 검증받았지만 아직 글로벌 시장에선 이렇다 할 고객을 잡지 못했다.

하지만 ‘TSMC 병목 현상’이 좀처럼 풀리지 않는 만큼 삼성전자에 조만간 기회가 올 것이란 관측이 나온다. 삼성전자는 엔비디아에 밀려 CoWoS 물량을 충분히 배정받지 못한 AMD와 구글 텐서처리장치(TPU)를 만드는 브로드컴 등을 대상으로 AI 가속기 관련 메모리와 파운드리, 최첨단 패키징을 한 번에 제공하는 ‘턴키 서비스’를 제안하는 것으로 알려졌다.

SK하이닉스도 2.5D 패키징에 관심을 기울이고 있다. 미래기술연구원, 패키징앤드테스트(P&T) 조직을 중심으로 본격적인 연구개발(R&D)에 들어갔다. SK하이닉스는 “고객 맞춤형 HBM을 더 잘 만들기 위한 것”이라고 선을 긋지만, 업계에선 향후 2.5D 패키징 사업에 본격 진출할 가능성이 크다는 관측을 내놓는다.

황정수/강해령/김채연 기자 hjs@hankyung.com