GPU 대신 연산까지 수행…삼성 '차세대 HBM' 공개

한국경제신문의 투자 전문 유료 플랫폼 '한경 프리미엄9'(www.hankyung.com/premium9)에 실린 기사입니다. '한경 프리미엄9'을 구독하시면 더 많은 주식 투자 기사를 찾아볼 수 있습니다.

삼성전자가 고대역폭메모리(HBM)를 단순히 데이터를 저장·전달하는 메모리에서 일부 연산까지 직접 수행하는 ‘어드밴스드 HBM(aHBM)’으로 진화시킨다. 한상욱 삼성전자 메모리사업부 테크니컬리더(TL)는 23일(현지시간) 미국 스탠퍼드대에서 열린 연례 반도체 콘퍼런스 ‘핫칩스 2026’에서 이 같은 구상을 공개했다.

aHBM 연구는 데이터 통로 역할을 하는 베이스다이를 활용해보자는 취지에서 시작됐다. HBM은 베이스다이 위에 여러 장의 D램을 수직으로 쌓은 메모리 칩이다. D램에 저장된 데이터는 베이스다이를 통해 그래픽처리장치(GPU)로 이동한다. 아파트로 치면 D램이 방이고 베이스다이는 현관이다. 한 TL은 “4㎚(나노미터·1㎚는 10억분의 1m) 공정이 적용된 HBM4부터 기존 회로를 더 작게 만들 수 있게 됐다”고 설명했다.

베이스다이에서 모든 연산을 수행할 수 있는 것은 아니다. 한 TL은 베이스다이에 적합한 연산으로 ‘어텐션’을 꼽았다. 어텐션은 인공지능(AI)이 추론할 때 특정 단어가 기존 단어와 얼마나 관련 있는지 점수를 매기는 과정으로, 이전 문맥을 메모리에서 계속 읽어와야 해 저장 공간과 가까울수록 유리하다.

aHBM은 삼성이 이날 공개한 3단계 HBM 진화 전략의 두 번째 단계다. 첫 단계는 ‘커스텀 HBM(cHBM)’이다. cHBM은 GPU 내부에 있는 메모리 컨트롤러 등을 베이스다이에 넣은 HBM이다. 메모리 컨트롤러는 GPU가 HBM에서 어떤 데이터를 언제 읽고 쓸지를 관리하는 회로다. 한 TL은 “대부분 고객사가 베이스다이에 메모리 컨트롤러를 넣는 방안을 고민하고 있다”고 전했다.

실리콘밸리=김인엽 특파원 inside@hankyung.com